执行摘要

• 一句话：修复ROCm平台MoRI与AITER后端FP8量化分发不兼容的bug。
• 推荐动作：建议精读此PR，了解MoE架构中FP8量化处理的设计权衡，特别是如何通过条件化属性和异常移除实现后端兼容。关注AiterExperts.expects_unquantized_inputs的条件逻辑和MoriPrepareAndFinalize.prepare中的量化跳过机制。

功能与动机

MoE Oracle重构后（#32414, #32567），AiterExperts.expects_unquantized_inputs无条件返回True，导致defer_input_quant=True被传递给MoriPrepareAndFinalize.prepare()，后者引发NotImplementedError，使得无法在ROCm平台上使用MoRI + AITER的FP8量化模型。PR body明确指出需解决此兼容性问题。

实现拆解

实现涉及两个文件修改：在rocm_aiter_fused_moe.py中，将AiterExperts.expects_unquantized_inputs属性从无条件返回True改为条件返回not self.moe_config.use_mori_kernels，这样当使用MoRI时返回False；在mori_prepare_finalize.py中，移除defer_input_uant时的NotImplementedError，并在use_fp8_dispatch且defer_input_quant=False时执行FP8量化，否则跳过以支持内部量化的后端。

关键文件：

• vllm/model_executor/layers/fused_moe/mori_prepare_finalize.py（模块 fused_moe）: 移除NotImplementedError并修改FP8量化逻辑，核心处理MoRI的准备步骤，直接影响FP8分发兼容性。
• vllm/model_executor/layers/fused_moe/rocm_aiter_fused_moe.py（模块 fused_moe）: 条件化AiterExperts.expects_unquantized_inputs属性，协调MoRI与AITER间的量化责任，是关键控制点。

关键符号：AiterExperts.expects_unquantized_inputs, MoriPrepareAndFinalize.prepare

评论区精华

review评论中，gemini-code-assist[bot]确认变更逻辑正确，解决了兼容性问题，并指出变更协调了量化步骤；tjtanaa批准。无争议点或未解决疑虑，讨论简短且一致通过。

• 代码逻辑正确性确认 (correctness): 变更被接受，无异议，reviewer tjtanaa批准。

风险与影响

• 风险：风险包括：修改核心MoE量化逻辑可能影响其他配置，尤其在defer_input_quant=True时跳过FP8分发量化需确保与后端的正确协调；条件化属性可能在不同MoE配置下行为不一致，需测试覆盖；FP8量化跳过可能引入精度问题。具体文件mori_prepare_finalize.py中逻辑变更需确保在defer_input_quant=True时正确跳过量化。
• 影响：对用户而言，修复了FP8量化MoE模型在ROCm平台上的使用障碍，使MoRI能与AITER后端协同工作，提升模型部署灵活性。系统层面，增强了MoE模块对不同后端的兼容性，优化网络流量减少。团队影响小，但解决了重要bug，确保ROCm平台功能完整性。
• 风险标记：FP8量化逻辑修改, 条件化属性可能引入歧义, 缺少广泛测试覆盖

关联脉络

• PR #37529 [ROCm] Enable MORI EP for unquantized MoE with AITER backend: 同涉及ROCm平台下MoRI与AITER后端的兼容性问题修复，显示持续优化MoE模块。