Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

k3 相关 PR

2026-07-31

#50242 K3 DSpark AR fusion

原始 PR · 作者 jeejeelee · 合并时间 2026-07-31 19:12

重构 重要性 6.53 洞察度 6.00

K3 DSpark 草稿模型启用 all-reduce 与 RMSNorm 融合

值得精读 dspark_mla.py 的 forward 改造,它是‘延迟 all-reduce、融合进下一个 Norm’这一高性能模式的简洁示例;同时可关注 vllm/models/common/ops 目录的演进。建议在后续 PR 中补充该融合路径的数值对齐测试,减少对人工评估的依赖。

2026-07-29