PR body中指出：'On Blackwell, comfy-kitchen is not the best default once we look beyond FLUX.' 基准测试显示CUTLASS在252/265形状中获胜，FLOP加权时间比为1.013x vs comfy的1.095x，因此切换默认后端以优化扩散模型推理性能。
建议工程师精读cuda.py中get_modelopt_fp4_gemm_op函数的变更，学习基于基准测试的后端选择策略；测试团队可参考新增基准测试脚本扩展CI覆盖。
reviewer mickqian建议：'may consider adding more nvfp4 test to CI later'，表明未来可增强测试覆盖，但当前PR无争议或深入讨论。
1) 新增基准测试文件bench_diffusion_nvfp4_scaled_mm.py和形状库diffusion_nvfp4_shapes.json，用于性能评估和形状管理。2) 修改cuda.py中的get_modelopt_fp4_gemm_op函数，默认返回CUTLASS后端，并新增get_modelopt_flashinfer_fp4_backend函数控制FlashInfer后端。3) 更新interface.py移除不再使用的方法，简化平台接口。4) 在envs.py添加环境变量SGLANG_DIFFUSION_FLASHINFER_FP4_GEMM_BACKEND，支持后端回退配置。5) 调整transformer_load_utils.py中FLUX.2 NVFP4相关逻辑，确保兼容性。
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
python/sglang/jit_kernel/benchmark/diffusion/bench_diffusion_nvfp4_scaled_mm.py |
benchmark/diffusion | added | 5.0 |
python/sglang/jit_kernel/benchmark/diffusion/diffusion_nvfp4_shapes.json |
benchmark/diffusion | added | 4.0 |
python/sglang/multimodal_gen/runtime/platforms/cuda.py |
multimodal_gen/runtime/platforms | modified | 6.0 |
分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。
reviewer mickqian 建议未来添加更多 NVFP4 测试到 CI，以增强测试覆盖
结论：无明确结论，仅为后续改进建议，未在 PR 中实现 · suggestion
技术风险：默认后端变更可能导致在comfy获胜的12.7个形状上性能下降，但环境变量SGLANG_DIFFUSION_NVFP4_LINEAR_BACKEND=comfy可覆盖。新增基准测试和代码可能引入bug，但已通过python3 -m compileall和实际运行验证。兼容性：保持comfy-kitchen为可选后端，不影响现有显式配置的用户。
对用户影响：使用Blackwell GPU运行扩散模型的用户将获得推理性能提升。系统影响：优化NVFP4量化路径，减少延迟，增强基准测试基础设施。团队影响：提供数据驱动决策范例，支持后续性能调优和测试扩展。
当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。
本PR将扩散模型NVFP4量化后端的默认实现从comfy-kitchen切换为CUTLASS，并添加全模型形状基准测试，旨在基于数据驱动优化Blackwell GPU上的推理性能，影响扩散模块用户和性能调优流程。
为解决Blackwell GPU上comfy-kitchen后端非最佳默认的问题，PR body引用基准测试结果：'On Blackwell, comfy-kitchen is not the best default once we look beyond FLUX.' 在265个形状案例中，CUTLASS获胜252个，FLOP加权时间比仅为1.013x，优于comfy的1.095x，因此切换默认以提升整体性能。
bench_diffusion_nvfp4_scaled_mm.py脚本和diffusion_nvfp4_shapes.json形状库，支持多后端性能对比。cuda.py的get_modelopt_fp4_gemm_op函数，默认返回CUTLASS后端；新增get_modelopt_flashinfer_fp4_backend函数，通过环境变量控制FlashInfer后端。envs.py添加SGLANG_DIFFUSION_FLASHINFER_FP4_GEMM_BACKEND环境变量；更新transformer_load_utils.py优化FLUX.2 NVFP4处理；简化interface.py移除不再使用的方法。reviewer mickqian提出建议：
may consider adding more nvfp4 test to CI later
这提示未来测试覆盖可增强，但当前PR无技术争议或深度讨论。
SGLANG_DIFFUSION_NVFP4_LINEAR_BACKEND=comfy覆盖；新增代码未经过大规模CI测试，可能存在隐藏bug。与历史PR #22064紧密相关，后者修复NVFP4权重缩放并添加大M核配置，本PR已对齐其变更。此外，PR #18762等扩散优化工作显示仓库持续关注JIT内核和性能调优，本PR延续了这一趋势，强调数据驱动的后端选择策略。
参与讨论