#32126 Seed the GDN CuteDSL correctness test inputs to fix flakiness
原始 PR · 作者 zyzshishui · 合并时间 2026-07-23 12:30
修复 GDN CuteDSL 测试因随机种子未设置导致的偶发失败
建议合并。这是一个小但有效的测试稳定性修复,通过简单明确的种子机制解决了 CI 中的间歇性失败。值得注意的实践是:当测试断言阈值接近误差分布尾部时,应主动固定随机种子以保证可重复性。
SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 zyzshishui · 合并时间 2026-07-23 12:30
修复 GDN CuteDSL 测试因随机种子未设置导致的偶发失败
建议合并。这是一个小但有效的测试稳定性修复,通过简单明确的种子机制解决了 CI 中的间歇性失败。值得注意的实践是:当测试断言阈值接近误差分布尾部时,应主动固定随机种子以保证可重复性。
内核测试按 ops 组重新分类并移出辅助包
该 PR 侧重重构和整理,不涉及核心逻辑变更。建议阅读 `kernels/README` 了解最终布局和分类原则。对于贡献内核测试的开发者,应参考新的 `test/registered/kernels/ops/<group>/` 目录放置测试。设计决策(如 tests 与 benchmarks 分离、辅助包单独放置)值得关注。
XPU 新增 causal_conv1d SYCL 内核路径
建议精读此 PR,可作为 XPU 平台性能优化的参考案例,其增量式修改模式值得推广。
原始 PR · 作者 OrangeRedeng · 合并时间 2026-07-23 10:31
修复 NPU W4A8 MoE 权重转换顺序导致的性能严重退化
建议精读。该 PR 展示了在硬件加速库(npu_format_cast)和量化打包(_pack_to_int32)之间执行顺序错误如何导致巨大性能损失。这是一个经典的 '非连续张量导致硬件格式转换失效' 案例,对理解硬件后端优化的细节非常有价值。同时,其性能对比数据的详细程度(多种场景、多个指标、对比正常提交)也是值得学习的实 践。但需要注意的是,目前缺少单元测试覆盖,相关模块的维护者应考虑补充。
移除 NPU GDN 后端重复的 ssm_states 更新代码
值得合并。这是一个干净、低风险的 bugfix,专注地解决了重复代码问题,并且有充足的测试和 benchmark 验证。对于 NPU 平台的 Mamba 模型用户有正面效果。
原始 PR · 作者 huangtingwei9988 · 合并时间 2026-07-23 10:20
Mooncake Store 新增模型感知的 key 隔离机制
建议阅读该 PR,尤其是关注 HiCache 多模型隔离的读者。核心设计决策 `config_prefix` 组合方案清晰,但有一个未解决的 review 建议(过滤空分割片段),值得后续跟进补丁。
原始 PR · 作者 chunyuan-w · 合并时间 2026-07-23 09:19
新增 CPU 共享内存 allgather_into_tensor 和 reduce_scatter_tensor 内核
值得精读。重点了解:如何通过 `STATE_GROUP` 模板参数避免竞争条件;`allreduce_workspace` 的偏移量宏扩展机制;测试文件从 manual 迁至 registered 并注册 CI 的流程。
CPU 上跳过 Mamba 状态池冗余 gather/scatter
值得合并,逻辑清晰且风险低。建议后续补充针对 CPU 上非连续 Mamba 状态池的测试用例,以保障回归检测。
参与讨论