执行摘要

本PR修复了扩散模型FLUX.2-dev-NVFP4路径中的权重缩放交织缺失和核配置浪费问题，优化了CUTLASS内核性能，并移除了过时的comfy-kitchen依赖。变更影响扩散模型的正确性和效率，建议相关工程师关注实现细节以提升量化实践。

功能与动机

PR旨在解决两个关键bug：首先，ModelOptFp4LinearMethod.process_weights_after_loading() 方法缺少CUTLASS TMA内核所需的块交织（swizzle），导致降级路径产生错误结果（cosine相似度下降约5%）；其次，默认核配置 KernelConfigDefault（集群 4×4）在FLUX.2模型M≈4352时浪费约25%计算资源。同时，移除comfy-kitchen第三方依赖以简化代码库。

实现拆解

变更涉及三个核心文件：

• python/sglang/jit_kernel/csrc/gemm/nvfp4/nvfp4_scaled_mm_sm100.cuh：添加 KernelConfigLargeM 结构体用于M>1024（集群 1×4），并调整 KernelConfigDefault 的集群从 4×4 到 2×4 以优化中等M范围。代码片段：
  

  template <typename T>
  const dim3 KernelConfigLargeM<T>::preferred_cluster(1, 4, 1);
  

• python/sglang/multimodal_gen/runtime/layers/quantization/modelopt_quant.py：在 process_weights_after_loading 方法中添加缺失的reshape和permute操作实现swizzle，并移除 ComfyUIFp4LinearMethod 及相关代码。
• python/sglang/multimodal_gen/runtime/platforms/cuda.py：删除与comfy-kitchen相关的平台检测方法，如 has_modelopt_fp4_best_performance_kit。

评论区精华

Review过程简单，仅由mickqian批准，未引发技术讨论。这表明变更被认为风险低且已通过测试，无需深入交锋。

风险与影响

风险：权重swizzle修复可能波及其他量化模型路径，需确保回归测试覆盖；新核配置针对FLUX.2优化，在其他大M场景下性能未验证；依赖移除可能影响向后兼容性，但测试显示无回归。
影响：修复提升扩散模型生成结果的正确性，优化NVFP4量化性能（CUTLASS路径比cuDNN快约10%），并简化代码维护。

关联脉络

本PR是NVFP4量化支持演进的一部分：相关PR如#22047回滚了NVFP4 Marlin降级，显示Blackwell GPU上量化策略的调整；#21766涉及JIT内核优化，与本PR的核配置技术相关；#20707则扩展了扩散模型功能，表明扩散模块的持续增强。整体看，仓库正聚焦于高性能量化内核和扩散模型的集成优化。