Blackwell SM100+ 添加 FlashInfer GDN prefill 支持
该 PR 是 Blackwell 推理栈的重要补齐,设计决策清晰(状态预分配、clamp 保护、版本校验)。值得关注: - SM100 / SM90 两条路径的差异(state pool vs gather/scatter)及初始化分支逻辑; - 如何通过预分配 bf16 output_state 消除类型转换开销; - 对上游 FlashInfer 版本的依赖管理。 推荐阅读核心内核文件 `gdn_flashinfer.py` 的 `extend` 方法,以理解 FlashInfer 集成模式。
参与讨论