执行摘要
- 一句话：新增--quantization unquant选项，允许用户显式禁用量化自动检测。
- 推荐动作：这个PR值得关注，因为它展示了如何处理用户显式意图与系统自动检测之间的冲突。设计上通过添加标志记录用户选择，而不是简单依赖None值，这种模式在处理类似配置冲突时值得借鉴。建议阅读python/sglang/srt/server_args.py中的相关修改，特别是_handle_model_specific_adjustments方法中三个自动检测路径的防护条件。
功能与动机
DeepSeek V3/R1等模型在没有显式设置--quantization时会自动检测并启用FP8量化，但目前没有方法可以显式禁用这种自动检测。用户无法通过传递--quantization None来禁用，而省略该标志又会触发自动检测。这个PR添加--quantization unquant作为显式禁用选项，主要用于调试量化相关的精度问题（如验证KL散度时无需FP8）以及在原本会自动检测量化的模型上运行未量化的推理。
实现拆解
实现集中在python/sglang/srt/server_args.py文件：1. 在QUANTIZATION_CHOICES列表中添加'unquant'选项；2. 简化SPECULATIVE_DRAFT_MODEL_QUANTIZATION_CHOICES为直接引用QUANTIZATION_CHOICES；3. 在__post_init__方法中解析--quantization unquant，将其转换为None并设置self._quantization_explicitly_unset = True来记录用户显式禁用量化的意图；4. 在_handle_model_specific_adjustments方法中的三个自动检测路径（DeepSeek FP8、SM100、非SM100）都添加not self._quantization_explicitly_unset条件，确保用户的显式禁用选择被尊重。
关键文件：
python/sglang/srt/server_args.py（模块 server_args）: 这是唯一被修改的文件，包含了所有实现逻辑：添加unquant选项、解析逻辑和自动检测防护。
关键符号：post_init, _handle_model_specific_adjustments
评论区精华
从提供的材料看，review讨论较为简单，只有Fridge003的批准评论，没有具体的技术讨论或争议点。这表明这个功能设计相对直接，实现方案得到了快速认可。
- 实现方案认可 (design): PR被批准并合并。
风险与影响
- 风险：风险较低但需注意：1. 兼容性风险：新增'unquant'选项需要确保与现有命令行参数解析逻辑兼容，特别是与None值的处理区分；2. 逻辑复杂性：引入self._quantization_explicitly_unset标志增加了状态管理，需要确保在所有相关路径中正确检查；3. 测试覆盖：PR描述中未提及添加单元测试，可能缺乏对新选项的全面测试；4. 文档更新：需要确保文档同步更新以反映新选项的用法。
- 影响：影响范围有限但重要：1. 用户影响：为需要禁用量化自动检测的用户提供了明确的控制方式，特别是调试精度问题时；2. 系统影响：仅影响命令行参数解析和量化自动检测逻辑，不改变核心推理路径；3. 团队影响：简化了量化调试流程，提升了开发体验。
- 风险标记：配置解析变更, 缺少测试覆盖
关联脉络
- PR #22372 [DSA] Hopper FP8 FlashMLA KV padding: 同样涉及量化（FP8）和DeepSeek模型，展示了量化相关的持续改进。
- PR #21881 [Misc] [MXFP8] Drop sm100 mxfp8 warning: 涉及量化配置和警告处理，与本PR的量化配置管理相关。
- PR #21858 [lora][moe] Decoupled LoRA MoE backend with Marlin support: 涉及量化后端支持（Marlin），与本PR的量化选项扩展相关。
参与讨论