执行摘要

• 一句话：修复MTP同步调度下序列接近最大长度时logprobs严重错误的bug。
• 推荐动作：该PR值得精读，特别是对于处理推测解码和Mamba架构模型的工程师。关注点：
  1. 理解input_fits_in_drafter条件的重要性；
  2. 学习如何通过TME指标验证logprobs正确性；
  3. 注意代码重复问题，未来可考虑重构为辅助方法以提高可维护性。

功能与动机

该PR旨在修复一个由@yfw发现的严重bug：在使用MTP推测解码和同步调度（Ray使用，vLLM中MTP强制使用）时，当序列长度达到max_model_len的num_spec_tokens范围内时，会产生灾难性错误的logprobs。PR body中详细描述了问题现象和测试结果，显示修复前TME（Token-Mean-Exponentiated error）值高达1.4e11，修复后所有TME值都恢复到健康的1.0左右。

实现拆解

该PR只修改了一个文件vllm/v1/worker/gpu_model_runner.py中的propose_draft_token_ids方法。关键改动是：

1. 在方法开始时添加注释说明决策逻辑；
2. 移除原来只在异步路径中清零草稿令牌的代码；
3. 在方法的最后，当input_fits_in_drafter=False时，统一清零_draft_token_ids并调用_copy_draft_token_ids_to_cpu。这确保了无论使用哪种调度方式，当无法运行草稿器时都会正确清零草稿令牌。

关键文件：

• vllm/v1/worker/gpu_model_runner.py（模块 worker）: 这是唯一修改的文件，包含了修复bug的核心逻辑变更，涉及推测解码的关键路径。

关键符号：propose_draft_token_ids

评论区精华

review讨论较少但有两个关键点：

1. gemini-code-assist[bot]指出清零草稿令牌的逻辑在多个地方重复，增加了维护错误风险，建议重构为辅助方法；
2. benchislett添加了注释说明推测解码处于活动状态，并最终批准了PR。讨论中没有实质性争议，主要关注代码可维护性改进。

• 代码重复风险 (design): 建议重构为辅助方法，但未在本次PR中实施。
• 注释补充 (documentation): 注释被接受并合并。

风险与影响

• 风险：技术风险较低：
  1. 变更范围小，仅修改一个方法中的条件逻辑；
  2. 修复了明确的bug场景，不会引入新问题；
  3. 有详细的测试验证，包括lm_eval和自定义脚本，显示修复后所有测试通过。潜在风险：代码重复问题未解决，可能在未来修改时引入错误，但当前变更本身是安全的。
• 影响：影响范围：
  1. 对用户：修复了MTP同步调度下logprobs严重错误的问题，确保推理结果正确性，特别是使用Nemotron等Mamba架构模型时；
  2. 对系统：仅影响GPUModelRunner的推测解码逻辑，不影响其他组件；
  3. 对团队：提供了清晰的bug分析和测试方法，可作为类似问题的参考。影响程度中等，修复了特定但严重的正确性问题。
     - 风险标记：核心路径变更, 模型正确性修复

关联脉络

• PR #38998 Revert "[vLLM IR] gemma_rms_norm": 同样涉及模型正确性修复，关注logprobs和测试失败问题。
• PR #38870 [Bugfix] Fix DSV32 weight loading: 同样属于模型相关的bugfix，涉及权重加载和量化问题。
• PR #38927 [Bugfix][LoRA] Fix missing in_proj_z in Qwen3_5ForConditionalGenerati…: 同样修复模型在特定配置下的bug，涉及TP和适配器加载。