标签列表
聚合结果
原始 PR · 作者 nanjiangwill · 合并时间 2026-08-21 07:55
恢复有限 top_k 的采样掩码要求，拒绝 top-p-only 请求
值得快速精读，尤其是 `scheduler.py` 中采样掩码的请求校验分支，以及测试对拒绝路径的回归设计。它体现了“功能放宽必须匹配资源上界”的设计决策，对理解采样掩码的安全边界和后续 #35765 的通用支持有参考价值。
原始 PR · 作者 merrymercy · 合并时间 2026-08-20 08:48
修复 top-k renorm Triton 内核 int32 偏移溢出。
该 PR 为小而关键的 bugfix，值得精读以了解 Triton 偏移计算的陷阱。建议关注是否存在其他类似溢出点，并考虑补充回归测试。
修复 min-new-token 对模型配置 EOS 的处理与崩溃
该 PR 值得精读，尤其关注 `_prepare()` 中如何合并 EOS 集合和过滤 None 值。这是一个小而精准的 bugfix，展示了如何处理 tokenizer 与模型配置不一致的情况。
空字符串语法约束归一化为 None，修复 UnboundLocalError 崩溃
值得快速阅读。PR 很小但展示了两个值得借鉴的点：一是把“空值归一化”放在数据类构造入口，而不是散落到下游判断；二是选择链的分支条件必须与入口条件严格一致，避免 falsy 值与 is not None 之间的缝隙。可作为 API 参数边界处理的范例。
将 structural_tag 纳入语法互斥校验，拒绝冲突请求
这是一个值得精读的小型 bugfix，适合作为理解 SGLang 采样参数校验与 `grammar_manager` 约束选择机制的入口。重点阅读 `sampling_params.py` 中的 `verify()` 与测试文件中通过 `GRAMMAR_VALUES` 驱动的参数化测试写法。也可结合 Issue #31680 中的 root cause 分析（blame 追溯）学习如何定位跨模块的静默逻辑缺陷。
原始 PR · 作者 vedularaghu · 合并时间 2026-07-22 23:24
修复 eos_token_id 为 None 时 min_new_tokens 崩溃
建议合入，属于明确的边界 bug 修复，代码简洁，风险低。可快速合入。