#55301 [Transformers] Generalize merged-column linear fusion
原始 PR · 作者 BANANASJIM · 合并时间 2026-09-09 07:49
新增通用 MergedColumnParallelFuser 并重构 GLU/QKV/MLA fuser 以复用共享逻辑,提升代码可维护性。
该 PR 值得精读,特别是对于负责 Transformers 后端、模型优化或 fuser 系统的工程师。核心设计决策包括:通用 fuser 的匹配逻辑与动态命名策略、GLU/QKV/MLA 的重构路径选择、以及多候选 fuser 的实例级选择机制。这些决策体现了良好的代码设计模式和对边缘情况的深思熟虑。测试覆盖全面,是高质量重构的典范。
参与讨论