功能
重要性 5.02
洞察度 3.00
Kimi-K3 自动 MoE 选择扩展到 SM107,防止显存耗尽
建议在 FlashInfer 官方 artifact 验证通过后合并。合并前应补充针对 SM107 的单元测试和集成测试,确保后端正确选择。此变更逻辑简单,但硬件依赖性强,需谨慎验证。
标签列表
聚合结果
Kimi-K3 自动 MoE 选择扩展到 SM107,防止显存耗尽
建议在 FlashInfer 官方 artifact 验证通过后合并。合并前应补充针对 SM107 的单元测试和集成测试,确保后端正确选择。此变更逻辑简单,但硬件依赖性强,需谨慎验证。
修复 SM120 GPU 误用 TMA 快速路径问题
该 PR 值得精读,尤其是理解硬件能力门控设计。其亮点在于将复杂的内核选择逻辑拆分为可测试的纯函数,并针对新硬件架构(SM120)给出明确回退策略。可关注跨 PR 演进中 `_use_fast` 的进一步优化。
禁用 Kimi PD 测试中 P worker 的 prefill CUDA graph
该 PR 是纯测试一致性修复,值得快速合入,但无深度技术洞察,可作为测试配置最佳实践的参考。