#54436 [Bugfix][PP] Never drop a decoding request from the sampled-token broadcast
原始 PR · 作者 ArcheyChen · 合并时间 2026-09-01 07:49
缺陷修复
重要性 7.67
洞察度 6.00
修复 PP 投机解码下请求被误排除出采样广播的问题
值得精读。这是一个“删掉看似合理的守卫”的正确性修复范本:关键在于理解 compute_need_sampled_mask 的语义边界、投机解码 token 推进与 max_seq_len 预算之间的错位,以及下游槽位生命周期校验(req_idx_gen)如何承担“已结束请求”的过滤职责。对后续维护 v1 执行引擎 PP 与投机解码路径的工程师有直接参考价值。关注点:函数语义收缩后,任何新增排除条件都必须证明“该行本步确定不产生样本”,否则会重蹈本 PR 的覆辙。