执行摘要

• 一句话：更新量化代码所有者并新增量化贡献指南
• 推荐动作：量化相关贡献者和维护者值得精读新增的量化贡献指南；CODEOWNERS 变更需要团队知晓并确认。建议在后续量化重构 PR 中引用该指南以保持一致性。

功能与动机

量化代码库正按Roadmap issue #15194进行重构，目标是保持量化配置、方案特定权重处理和硬件后端内核执行分离。清晰的代码所有权有助于将未来量化PR路由给熟悉方案/后端分割和最近AWQ/GPTQ实现细节的审查者。新的贡献指南旨在降低新贡献者加入量化开发的入门门槛，并保证新增量化方法遵循统一架构。

实现拆解

1. 更新 CODEOWNERS：在 .github/CODEOWNERS 中添加 @Alisehen 为 python/sglang/srt/layers/quantization、python/sglang/srt/hardware_backend/gpu/quantization 和 python/sglang/srt/hardware_backend/npu/quantization 的代码所有者。原来NPU量化后端的所有者保留并新增，GPU量化后端为新增路径。

2. 创建量化贡献指南：新增 docs_new/docs/developer_guide/quantization_contribution_guide.mdx，详细描述：

   • Config / Scheme / Backend Kernel 三层架构
   • 推荐文件布局（方法包内分离 schemes，后端内核按平台放置）
   • 添加或重构量化方法的具体步骤（从 config 入口到 kernel 分离）
   • 测试和验证期望（精度回归、性能基准、跨后端检查）
   • PR checklist（完整性、兼容性、文档更新）

3. 更新文档导航：在 docs_new/docs.json 的 Developer Guide > Development 组下新增指向 quantization_contribution_guide 的路径。

4. 更新开发者概览页：在 docs_new/docs/developer_guide/overview.mdx 中添加指向新指南的链接。

关键文件：

• docs_new/docs/developer_guide/quantization_contribution_guide.mdx（模块 文档；类别 other；类型 other）: 新增的量化贡献指南，是PR的核心文档，详细描述了量化架构、推荐实践和贡献流程。
• .github/CODEOWNERS（模块 基础设施；类别 infra；类型 infrastructure）: 更新了量化代码的所有权，指定Alisehen为GPU和NPU量化后端以及layers/quantization的代码所有者。
• docs_new/docs.json（模块 文档配置；类别 config；类型 configuration）: 文档导航配置更新，在Developer Guide的Development组下添加量化贡献指南的路径链接。

关键符号：未识别

关键源码片段

docs_new/docs/developer_guide/quantization_contribution_guide.mdx

新增的量化贡献指南，是PR的核心文档，详细描述了量化架构、推荐实践和贡献流程。

---
title: "Quantization Contribution Guide"
metatags:
  description: "Guidance for contributing SGLang quantization methods, schemes, backend kernels, tests, and validation results."
---

# Quantization Contribution Guide

{/* 该指南描述了量化架构和新增量化方法的步骤 */}

This guide describes how to add or refactor quantization support in SGLang. It focuses on the common structure used by weight-only and weight-activation quantization methods such as AWQ, GPTQ, compressed-tensors, ModelSlim, Quark, and related backend kernels.

## Design Goals

Quantization code should keep the quantization format semantics separate from hardware-specific execution...

评论区精华

• 术语一致性：gemini-code-assist 建议将指南中“CUDA/HIP/XPU”统一表述为“GPU (CUDA/HIP/XPU)”，以匹配SGLang后端分组风格。已采纳。

• 使用 ruff check：建议指南推荐使用 ruff check 进行静态检查，而不是 py_compile。已采纳。

• GPU验证范围：建议明确指南中的 GPU 验证需覆盖 NVIDIA、AMD、Intel 环境。已采纳。

• CODEOWNERS 格式：ping1jing2 建议将 GPU 和 NPU 量化后端分成两行独立条目，并在 layers/quantization 条目中添加 @OrangeRedeng 和 @TamirBaydasov。已采纳。

• 术语一致性：将CUDA/HIP/XPU统一表述为GPU(CUDA/HIP/XPU) (documentation): 已采纳，指南中已使用该表述。

• 推荐使用 ruff check 进行代码检查 (documentation): 已采纳，指南中已更新为推荐ruff check。
• 扩展GPU验证覆盖AMD和Intel (documentation): 已采纳，指南中已修改为“所有支持的GPU环境（NVIDIA、AMD、Intel）”。
• CODEOWNERS: 将GPU和NPU量化后端分成两行 (infrastructure): 已采纳，最终版本为两行：一行gpu，一行npu。
• layers/quantization添加更多所有者 (infrastructure): 已采纳，最终包含@OrangeRedeng @TamirBaydasov @Alisehen。

风险与影响

• 风险：风险较低。主要风险包括：
  • 文档日后可能随量化架构演化而过时，需要持续维护。
  • CODEOWNERS 变更后，相关 PR 将自动分配给新的所有者，如果新所有者响应不及时可能影响 review 效率。
  • 贡献指南可能导致新增量化方法时，若未严格遵循，需额外 review 工作。但这些风险均可控。
  • 影响：对用户无直接影响。对维护者：量化相关的 PR 自动分配给 Alisehen 等人，可能加快 review 速度。对贡献者：清晰的贡献指南降低了入门难度，引导新增方法遵循统一架构。对系统：增强了量化模块的 ownership 明确性和可维护性。
  • 风险标记：文档需持续维护, ownership变更可能影响review分配

关联脉络

• PR #15194 [Roadmap] Quantization Modifications: 此PR是Roadmap的一部分，最终目标是通过Config/Scheme/Kernel拆分重构量化模块。
• PR #21126 [4/N] Quantization Refactor: AWQ schemes and Kernel call and weight init split: 作者之前的AWQ重构PR，此PR的量化贡献指南基于该重构经验。
• PR #26402 [5/N] Quantization Refactor: GPTQ schemes and kernel split: 作者之前的GPTQ重构PR，延续相同架构。
• PR #26786 [GPTQ] Refactor CPU quantization schemes: 作者之前的CPU量化方案重构PR。