执行摘要

本 PR 修复了 benchmarks/kernels/benchmark_fused_collective.py 中的编译错误，通过改用 SCALED_FP4_QUANT_OUT_OP 操作符并重构代码，确保性能基准测试能够正常运行。这是一个小范围的 bugfix，主要影响内部测试工具，风险较低。

功能与动机

错误源于 SCALED_FP4_QUANT_OP 调用参数不匹配：操作符期望最多 3 个参数但收到 4 个，且第三个参数类型应为 bool 却收到 FakeTensor。PR body 中明确描述了此错误，并指出修复目的是使 benchmark 脚本能在 torch.compile 环境下正确执行，避免测试失败。

实现拆解

关键改动集中在 benchmark_fused_collective.py 文件：

• 在 allreduce_rmsnorm_fp4_quant 函数中，将 SCALED_FP4_QUANT_OP 替换为 SCALED_FP4_QUANT_OUT_OP，并调整调用方式如下：
  

  SCALED_FP4_QUANT_OUT_OP(
      rms_out,
      input_global_scale,
      True,
      output=quant_out,
      output_scale=output_scale,
  )
  

  
  同时重构条件逻辑，将量化操作移到 if-else 块外，减少了重复代码。

• 在 create_test_tensors 函数中，使用 create_fp4_output_tensors 预分配输出张量，替代了硬编码的 torch.empty 调用。

评论区精华

在 review 中，gemini-code-assist[bot] 指出：

"The call to SCALED_FP4_QUANT_OUT_OP is duplicated in both the if and else branches. This code can be refactored to remove the duplication, which improves readability and maintainability."
作者通过重构代码采纳了此建议，提升了可读性。

风险与影响

• 风险：使用 scaled_fp4_quant.out 操作符可能引入兼容性问题，如与 torch.compile 或特定设备的不匹配，但仅限于 benchmark 场景。预分配张量可能轻微增加内存开销。
• 影响：对用户无直接影响，但修复了内部性能测试，有助于团队准确评估量化操作性能。

关联脉络

与本 PR 相关的历史 PR 包括 #38092（修复 Marlin FP8 内核），两者都涉及量化操作的修复和测试，反映了仓库在优化量化性能方面的持续努力。这有助于揭示量化模块的演进方向，确保测试工具与核心代码同步更新。