执行摘要

• 一句话：新增--quantization unquant选项，允许用户显式禁用量化自动检测。
• 推荐动作：这个PR值得关注，因为它展示了如何处理用户显式意图与系统自动检测之间的冲突。设计上通过添加标志记录用户选择，而不是简单依赖None值，这种模式在处理类似配置冲突时值得借鉴。建议阅读python/sglang/srt/server_args.py中的相关修改，特别是_handle_model_specific_adjustments方法中三个自动检测路径的防护条件。

功能与动机

DeepSeek V3/R1等模型在没有显式设置--quantization时会自动检测并启用FP8量化，但目前没有方法可以显式禁用这种自动检测。用户无法通过传递--quantization None来禁用，而省略该标志又会触发自动检测。这个PR添加--quantization unquant作为显式禁用选项，主要用于调试量化相关的精度问题（如验证KL散度时无需FP8）以及在原本会自动检测量化的模型上运行未量化的推理。

实现拆解

实现集中在python/sglang/srt/server_args.py文件：

1. 在QUANTIZATION_CHOICES列表中添加'unquant'选项；
2. 简化SPECULATIVE_DRAFT_MODEL_QUANTIZATION_CHOICES为直接引用QUANTIZATION_CHOICES；
3. 在__post_init__方法中解析--quantization unquant，将其转换为None并设置self._quantization_explicitly_unset = True来记录用户显式禁用量化的意图；
4. 在_handle_model_specific_adjustments方法中的三个自动检测路径（DeepSeek FP8、SM100、非SM100）都添加not self._quantization_explicitly_unset条件，确保用户的显式禁用选择被尊重。

关键文件：

• python/sglang/srt/server_args.py（模块 server_args）: 这是唯一被修改的文件，包含了所有实现逻辑：添加unquant选项、解析逻辑和自动检测防护。

关键符号：post_init, _handle_model_specific_adjustments

评论区精华

从提供的材料看，review讨论较为简单，只有Fridge003的批准评论，没有具体的技术讨论或争议点。这表明这个功能设计相对直接，实现方案得到了快速认可。

• 实现方案认可 (design): PR被批准并合并。

风险与影响

• 风险：风险较低但需注意：
  1. 兼容性风险：新增'unquant'选项需要确保与现有命令行参数解析逻辑兼容，特别是与None值的处理区分；
  2. 逻辑复杂性：引入self._quantization_explicitly_unset标志增加了状态管理，需要确保在所有相关路径中正确检查；
  3. 测试覆盖：PR描述中未提及添加单元测试，可能缺乏对新选项的全面测试；
  4. 文档更新：需要确保文档同步更新以反映新选项的用法。
• 影响：影响范围有限但重要：
  1. 用户影响：为需要禁用量化自动检测的用户提供了明确的控制方式，特别是调试精度问题时；
  2. 系统影响：仅影响命令行参数解析和量化自动检测逻辑，不改变核心推理路径；
  3. 团队影响：简化了量化调试流程，提升了开发体验。
     - 风险标记：配置解析变更, 缺少测试覆盖

关联脉络

• PR #22372 [DSA] Hopper FP8 FlashMLA KV padding: 同样涉及量化（FP8）和DeepSeek模型，展示了量化相关的持续改进。
• PR #21881 [Misc] [MXFP8] Drop sm100 mxfp8 warning: 涉及量化配置和警告处理，与本PR的量化配置管理相关。
• PR #21858 [lora][moe] Decoupled LoRA MoE backend with Marlin support: 涉及量化后端支持（Marlin），与本PR的量化选项扩展相关。