Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

pp 相关 PR

2026-09-01
缺陷修复 重要性 7.67 洞察度 6.00

修复 PP 投机解码下请求被误排除出采样广播的问题

值得精读。这是一个“删掉看似合理的守卫”的正确性修复范本:关键在于理解 compute_need_sampled_mask 的语义边界、投机解码 token 推进与 max_seq_len 预算之间的错位,以及下游槽位生命周期校验(req_idx_gen)如何承担“已结束请求”的过滤职责。对后续维护 v1 执行引擎 PP 与投机解码路径的工程师有直接参考价值。关注点:函数语义收缩后,任何新增排除条件都必须证明“该行本步确定不产生样本”,否则会重蹈本 PR 的覆辙。