修复 Helion GPU 名称中的斜杠未归一化问题
该 PR 属于小范围 bugfix,变更简洁,测试覆盖了关键路径。建议快速合并。对于审核者,可关注正则表达式是否需引入 `regex` 库(与标准库 `re` 的差异)以及未来是否需支持更多 Unicode 分隔符。
A high-throughput and memory-efficient inference and serving engine for LLMs
修复 Helion GPU 名称中的斜杠未归一化问题
该 PR 属于小范围 bugfix,变更简洁,测试覆盖了关键路径。建议快速合并。对于审核者,可关注正则表达式是否需引入 `regex` 库(与标准库 `re` 的差异)以及未来是否需支持更多 Unicode 分隔符。
原始 PR · 作者 WoosukKwon · 合并时间 2026-06-25 04:59
修复 Triton MoE 对 -1 槽位的处理
建议精读,尤其是新引入的两个 Triton kernel 的实现。该 PR 展示了如何通过定制 kernel 处理边界值,对理解 Triton 编程和处理异步并行中的特殊标记值有参考价值。
原始 PR · 作者 WoosukKwon · 合并时间 2026-06-25 04:52
修复 legacy Triton MoE 路由对非2次幂 top_k 的编译错误
值得精读,尤其是对 Triton JIT kernel 的 padding 技巧和 monkey-patching 策略感兴趣的同学。对于 MLE 和内核工程师,了解如何在不修改第三方库的情况下处理编译时约束有参考价值。
废弃 ROCm 上的 CUDA_VISIBLE_DEVICES 环境变量
可快速合入,属于低风险废弃流程。值得在内部沟通中提醒 ROCm 用户注意该变化。
原始 PR · 作者 chaunceyjiang · 合并时间 2026-06-25 03:59
修复 Kimi K2 required tool choice ID 格式
**值得精读**。该 PR 展示了一次典型的"逻辑下沉+清理"重构:将特定模型的 ID 格式策略从高层服务移到低层 parser,使代码职责更单一、便于测试。新增的 `count_history_tool_calls` 系列函数设计通用,可用于未来其他模型。对于关注工具调用流程或 parser 架构的开发者来说,这是一个很好的设计决策参考。
支持 DCP + FP8 KV Cache 在 MLA 解码中协同
值得精读:展示了 DCP 与量化在 MLA 架构下的协同设计,特别是 head 计数修正对性能的影响。测试方法也值得借鉴。
原始 PR · 作者 ashwin-phadke · 合并时间 2026-06-25 02:58
修复文档和注释中的语法和措辞错误
这是一个低优先级的清理 PR,无需深入阅读。可作为维护代码文档质量的示例。
原始 PR · 作者 jessiewei7 · 合并时间 2026-06-25 02:00
修复 MRV2 采样器 int32 偏移溢出
此 PR 为高价值修复,值得特别关注。展示了在 Triton kernel 中防范 int32 溢出的模式,建议团队学习并纳入编码规范。
参与讨论