执行摘要

• 一句话：修复链式MTP推测解码中隐藏状态更新错误，确保草案生成正确性。
• 推荐动作：该PR值得精读，特别是对于从事推测解码开发的工程师。关注点：
  1. 链式MTP中隐藏状态传递的设计模式。
  2. CUDA图运行器中buffers与self状态管理的区别。
  3. 条件逻辑如何确保状态更新仅在需要时发生。

功能与动机

PR body明确指出修复动机：在链式MTP推测解码中，隐藏状态需要在每个草案步骤后更新，且CUDA图运行器应更新buffers.hidden_states而非self.hidden_states。Issue评论中Qiaolin-Yu提到另一个类似PR已通过所有CI测试，表明这是已知问题需要修复。

实现拆解

修改涉及两个文件：

1. multi_layer_eagle_draft_extend_cuda_graph_runner.py：将self.hidden_states[:num_tokens].copy_(ret.hidden_states[:num_tokens])改为buffers.hidden_states[:num_tokens].copy_(ret.hidden_states[:num_tokens])，修复属性访问错误。
2. multi_layer_eagle_worker_v2.py：在_draft_extend_for_decode函数中添加条件逻辑，当启用chain_mtp_hidden_states且非最后一步时，将当前步骤输出的隐藏状态赋值给forward_batch.spec_info.hidden_states，确保隐藏状态在草案步骤间正确传递。

关键文件：

• python/sglang/srt/speculative/multi_layer_eagle_draft_extend_cuda_graph_runner.py（模块 speculative-decoding）: 修复CUDA图运行器中隐藏状态更新目标错误，从self.hidden_states改为buffers.hidden_states，避免AttributeError并确保状态正确同步。
• python/sglang/srt/speculative/multi_layer_eagle_worker_v2.py（模块 speculative-decoding）: 实现链式MTP草案扩展中隐藏状态的跨步骤传递，确保每个草案步骤能使用前一步的隐藏状态，提升生成连贯性。

关键符号：_draft_extend_for_decode, run_once

评论区精华

review讨论较少，gemini-code-assist[bot]的评论总结了修复内容：修复CUDA图运行器中的AttributeError并实现链式MTP模型的隐藏状态传播。Qiaolin-Yu直接批准合并，未提出异议。Issue评论中Qiaolin-Yu提到另一个类似PR已通过所有CI测试，作为合并依据。

• 修复链式MTP隐藏状态更新错误 (correctness): 修复被接受，无争议。

风险与影响

• 风险：风险较低：
  1. 变更范围小（仅2文件，10行增删），逻辑清晰。
  2. 修复针对特定条件（chain_mtp_hidden_states启用时），不影响其他推测解码路径。
  3. 潜在风险：隐藏状态传递逻辑可能引入循环依赖或状态污染，但条件检查（step < self.speculative_num_steps - 1）和空值检查降低了风险。
  4. 缺少直接测试覆盖，依赖CI整体验证。
• 影响：影响范围：
  1. 用户：修复链式MTP推测解码的正确性，提升生成质量，对使用该功能的用户有直接正面影响。
  2. 系统：确保隐藏状态在草案生成过程中一致，避免潜在崩溃或错误输出。
  3. 团队：作为speculative-decoding模块的维护性修复，增强代码健壮性。影响程度：中等，仅影响特定配置下的推测解码行为。
     - 风险标记：特定条件触发, 缺少直接测试

关联脉络

• PR #22206 tiny fix chain-style multi layer eagle comments: 同样修改multi_layer_eagle_draft_extend_cuda_graph_runner.py文件，涉及链式MTP推测解码的注释修复，属于同一功能线的维护性PR。
• PR #21589 [sgl] two potential spec_v2 bug fixes: 同为推测解码V2的bug修复PR，涉及eagle_worker_v2.py和logits_processor.py，主题相关。
• PR #22180 [Spec][Ngram] Followup fixes for MatchState incremental advance: 同为推测解码模块的性能优化和修复PR，展示团队持续改进推测解码组件的趋势。