执行摘要

本PR自动回滚了Flashinfer nvfp4 cutedsl MoE kernel的集成，以修复B200 GPU上测试导致的CI失败，确保系统稳定性，但暂时移除了潜在的性能优化功能。

功能与动机

原PR#38050在集成新MoE kernel时，引发了B200 GPU上的CI失败：测试test_flashinfer_cutedsl_moe_masked出现CUDA coredump和Fatal Python error: Aborted，具体错误发生在break_fp4_bytes / dequantize_nvfp4_to_dtype函数中。因此，本PR作为自动回滚，旨在快速恢复CI通过，避免进一步影响开发流程。

实现拆解

本PR通过回滚commit 678b3c99e82e1b1dd6cc95ff98c114393b788be4，进行了以下关键改动：

• 移除batched kernel文件：删除vllm/model_executor/layers/fused_moe/experts/flashinfer_cutedsl_batched_moe.py，该文件包含原集成的FlashInferCuteDSLBatchedExperts类。
• 修改核心MoE类：在vllm/model_executor/layers/fused_moe/experts/flashinfer_cutedsl_moe.py中，调整FlashInferCuteDSLExperts类以使用flashinfer_cutedsl_grouped_gemm_nt_masked，并变更activation_format为BatchedExperts格式。
• 更新配置和工具函数：在vllm/model_executor/layers/fused_moe/oracle/nvfp4.py中移除FLASHINFER_CUTEDSL_BATCHED后端引用；在vllm/model_executor/layers/quantization/utils/flashinfer_fp4_moe.py中删除相关准备函数；在vllm/utils/flashinfer.py中移除未使用的导入。
• 调整测试导入：修改tests/kernels/moe/test_cutedsl_moe.py中的导入语句，反映文件变化。

评论区精华

review中仅有一个来自gemini-code-assist[bot]的评论，揭示了原kernel的关键设计缺陷：

"The out tensor is an output parameter, but reassigning it locally prevents the caller from receiving the result. The original out tensor is left with scrambled data because the kernel writes to a permuted view of it. The final permutation is a no-op for the caller. To fix this, we should use a temporary variable for the permuted view and then copy the correctly ordered result back into the original out tensor."

此讨论突出了正确性风险，但本PR未采纳修复建议，而是选择回滚以优先保证CI稳定。

风险与影响

风险分析：回滚本身风险低，因为它恢复了之前稳定的代码。但潜在风险包括：

• 功能回退可能影响nvfp4量化MoE的性能优化。
• 输出张量处理错误若未修复，未来重新集成时可能再次引发类似崩溃。
• 兼容性问题需确保其他MoE后端在BatchedExperts格式下正常工作。

影响分析：影响范围集中在MoE kernel模块，用户层面无直接影响。系统内部回退到旧实现，可能轻微影响推理效率；团队需重新评估原PR问题并计划修复，以平衡功能与稳定性。

关联脉络

本PR直接回滚了PR#38050，显示MoE kernel集成过程中的挑战。从仓库近期历史PR看，类似bugfix和quantization相关变更频繁（如PR#38083、PR#38161），表明团队持续优化量化性能和CI稳定。此回滚事件可能推动未来更严格的kernel测试和设计审查，以避免核心路径中的类似错误。