执行摘要

• 一句话：更新Step3.5 MTP模型注释，澄清链式多层级联实现细节。
• 推荐动作：该PR适合快速浏览，重点关注注释如何澄清链式MTP的隐藏状态传递机制。对于不直接参与MTP或推测解码开发的工程师，无需深入研读。

功能与动机

从PR标题和代码变更可以看出，本次修改的主要动机是“精炼过时的注释”。原注释（base_excerpt第133-140行）描述了SGL实现与标准Step3.5 Flash MTP设计之间的差异，并标记为FIXME待修正。而新注释（head_excerpt第133-140行）表明该差异已被解决，当前实现已采用标准的链式多层MTP设计，因此需要更新注释以准确反映现有实现。

实现拆解

1. 更新模型类前注释：修改python/sglang/srt/models/step3p5_mtp.py文件中Step3p5MTP类前的注释块。
   - 删除原注释中关于实现差异、性能影响和待修正的说明（共8行）。
   - 新增注释描述链式多层MTP的标准设计：每个MTP层消费前一层产生的隐藏状态，第0层消费目标模型的隐藏状态。
   - 新增注释说明链传播由MultiLayerEagleDraftWorker通过chain_mtp_hidden_states标志驱动，该标志在推测步骤间用前一层的hidden_states_before_norm覆盖forward_batch.spec_info.hidden_states和CUDA-graph缓冲区。
2. 无其他配套改动：本次变更仅涉及源码注释更新，未修改任何功能代码、测试、配置或文档。

关键文件：

• python/sglang/srt/models/step3p5_mtp.py（模块 模型层；类别 source；类型 documentation）: 唯一变更文件，包含Step3.5 MTP模型的核心实现，注释更新澄清了链式多层级联设计。

关键符号：未识别

关键源码片段

python/sglang/srt/models/step3p5_mtp.py

唯一变更文件，包含Step3.5 MTP模型的核心实现，注释更新澄清了链式多层级联设计。

# Chain-style multi-layer MTP (standard Step-3.5 Flash design):
# each MTP layer consumes the hidden states produced by the preceding MTP layer,
# while layer-0 consumes the hidden states from the target model.
# The chain propagation is driven by MultiLayerEagleDraftWorker via the
# ``chain_mtp_hidden_states`` flag: between speculative steps it overwrites
# ``forward_batch.spec_info.hidden_states`` (and the CUDA-graph hidden_states
# buffer in the draft-extend graph) with the previous layer's
# ``hidden_states_before_norm`` returned by ``Step3p5AMultiTokenPredictor``.
class Step3p5MTP(Step3p5ForCausalLM):
    def __init__(
        self,
        config: PretrainedConfig,
        quant_config: Optional[QuantizationConfig] = None,
        draft_model_idx: Optional[int] = None,
        prefix: str = "",
    ) -> None:
        nn.Module.__init__(self)
        self.config = config
        self.tp_size = get_tensor_model_parallel_world_size()
        self.quant_config = quant_config
        self.draft_model_idx = draft_model_idx
​
        self.model = Step3p5AMultiTokenPredictor(
            config=config, quant_config=quant_config, prefix=add_prefix("model", prefix)
        )
        self.logits_processor = LogitsProcessor(config)
        self.lm_head = self.model.lm_head

评论区精华

本次PR没有review评论，仅有一次提交。从提交历史看，作者直接合并了变更，表明这是一个低风险、非争议性的文档维护工作。

• 暂无高价值评论线程

风险与影响

• 风险：技术风险极低：
• 回归风险：无，仅修改注释，未触及任何功能代码。
• 性能风险：无，注释变更不影响运行时行为。
• 兼容性风险：无，不涉及API或数据格式变更。

• 安全风险：无。
  唯一潜在风险是注释准确性：新注释描述了MultiLayerEagleDraftWorker和chain_mtp_hidden_states标志的交互，若这些描述与代码实现不符，可能误导后续开发者。但考虑到这是对已实现功能的澄清，风险可控。

• 影响：影响范围有限：

• 对用户：无直接影响，不改变外部行为或API。
• 对系统：无运行时影响，仅提升代码可读性。
• 对团队：帮助开发者准确理解Step3.5 MTP的链式多层实现，减少因过时注释导致的误解。尤其对涉及推测解码（speculative-decoding）和MTP模块的开发者有价值。
• 风险标记：注释准确性

关联脉络

• PR #20989 [Fix] eagle/eagle3 speculative decoding conflicts with xgrammar in NPU: 同属推测解码（speculative-decoding）领域，涉及MTP或Eagle组件的修正。
• PR #21701 [diffusion] disaggregated diffusion: 同属模型架构相关PR，涉及多层设计或调度机制。