#52458 [Kimi-K3][Perf] Update FlashKDA for automatic K2 V-split
原始 PR · 作者 BabyDrangoner · 合并时间 2026-08-17 09:04
更新 FlashKDA pin,启用 K2 自动 V-split 提升推理性能
值得合入但不必精读:本次变更只是一行 pin 更新,核心价值来自上游 FlashKDA 的自动 V-split 机制。若要深入理解设计权衡,建议阅读上游 FlashKDA PR(例如 https://github.com/vllm-project/FlashKDA/pull/6)中的启发式选择逻辑与 TMA proxy-fence 修复;vLLM 侧可关注后续是否有将 V-split 决策暴露为配置项或补充仓库内回归测试的计划。
参与讨论