修正 DeepGEMM 测试的运行节点
值得快速合并,以修复 CI 中因运行器不匹配导致的失败。无需精读。
SGLang is a high-performance serving framework for large language models and multimodal models.
修正 DeepGEMM 测试的运行节点
值得快速合并,以修复 CI 中因运行器不匹配导致的失败。无需精读。
启用 spec 解码下 retraction 排序并清理死代码
该 PR 值得精读,尤其适合关注调度器和推测解码的开发者。它展示了如何识别并移除过时的工程限制,同时伴随彻底的死代码清理和测试加固,是良好的 PR 实践。
NPU 夜间镜像构建和测试提前 2 小时
该 PR 为基础设施调度调整,无技术深度,无需精读。但反映了团队对 CI 时间窗口的主动管理,值得 DevOps 角色留意。
Ascend FuseEP 改用 MoE EP 通信组
PR 逻辑清晰、改动极小,风险低。建议合并,并推荐后续添加测试覆盖。
原始 PR · 作者 silencejade · 合并时间 2026-07-23 14:05
移除 NPU 热路径 .item() 同步,修复 Qwen3.5-397B 性能退化
建议 NPU 推理栈维护者精读:这是 .item() 设备同步在 decode 热路径上代价的具体案例,也展示了 revert 式修复的取舍。值得关注两点:一是在热路径上避免任何 host-device 同步;二是撤除精度保护时应同步提供精度回归测试。更优解法是把判断量移到 host 侧已经具备的标量或改在 device 端带掩码处理,而非简单二选一。
内核分类清理:统一 _jit_ 命名、移除空/模型分组、新增 elementwise 分组
推荐团队成员关注此 PR 了解新的内核分组规范。刷新了对命名和分类一致性重要性的认识。
扩展 early-exit 模式至多个全宽 Triton 内核
值得精读:该 PR 展现了如何通过 per-request 早退显著优化 Triton 内核性能,以及如何严格定义和测试部分写入契约。特别关注 `kv_len` 与 `req_idx` 的流水线加载技巧,以及测试中 `live_mask` 的构造和应用。对于正在开发 Triton 内核的工程师有直接参考价值。
原始 PR · 作者 zyzshishui · 合并时间 2026-07-23 12:30
修复 GDN CuteDSL 测试因随机种子未设置导致的偶发失败
建议合并。这是一个小但有效的测试稳定性修复,通过简单明确的种子机制解决了 CI 中的间歇性失败。值得注意的实践是:当测试断言阈值接近误差分布尾部时,应主动固定随机种子以保证可重复性。
参与讨论