#42988 [Perf] `zeros` -> `empty` to remove additional fill
原始 PR · 作者 yewentao256 · 合并时间 2026-05-22 04:00
将 torch.zeros 替换为 torch.empty,消除额外清零开销
此 PR 是一次小范围、低风险、有明显理论收益的微观优化。源码变更模式(zeros→empty)是一种普遍适用的手法,值得在 vllm 其他类似场景(如其他注意力机制、量化路径中的输出缓冲区)中推广。建议精读 `_custom_ops.py` 与 `fp8_utils.py` 的完整代码片段,理解“先分配后覆写”的模式识别方法。
参与讨论