vllm-project/vllm

修复W4A8_FP8 MoE量化路径的流同步竞争和PyTorch版本兼容性问题。

该PR值得精读，尤其是对于从事量化或MoE开发的工程师。重点关注：1) 流同步在TP场景下的必要性设计；2) PyTorch API版本兼容性的处理方式；3) 如何通过现有测试验证修复效果。

修复XPU平台上NIXL导入逻辑，避免因平台检测错误导致的“NIXL不可用”回归。

该PR值得快速浏览，重点关注平台检测逻辑的设计决策：使用`not is_rocm()`而非`is_cuda()`或`is_xpu()`，这反映了项目中对平台抽象层的设计思路——优先通过排除法（非ROCM）而非枚举法来简化多平台支持。

修复MORI IO KV连接器API路由错误，确保预填充和解码节点使用正确端点。

该PR值得精读，重点关注代理服务器的路由重构设计，以及如何通过参数化API路径来避免硬编码，这对于构建灵活的服务端点有借鉴意义。

为 fused_topk_bias 添加 NaN/Inf 钳制回归测试，确保专家 ID 唯一性。

该 PR 值得快速浏览以了解测试模式和内核钳制的验证方式，但核心设计决策已在 PR #39391 中讨论。关注点在于测试参数化和对 fused_topk_bias 路径的覆盖。

修复多模态 warmup 在纯文本模式下仍运行的 bug，避免不必要开销。

建议技术管理者和工程师精读此 PR，重点关注： - `vllm/renderers/base.py` 中 `warmup` 方法的过滤逻辑，展示了如何优雅处理配置边界情况。 - 测试文件的设计，使用 Mock 对象隔离依赖，确保单元测试的可靠性和可维护性。 - 通过简单代码变更解决实际问题，体现了优化思维。

移除 ROCm 依赖文件中的 git+ URL 包，修复 uv pip 安装失败问题。

该 PR 值得快速浏览，重点关注其如何解决工具链兼容性问题，以及 Dockerfile 中新增的防护逻辑。设计决策上，选择完全移除 git 依赖而非寻找替代方案，反映了对 uv pip 生态的适配优先级。

默认启用CUDA图内存分析并调整GPU内存利用率默认值至0.92。

建议技术管理者关注此变更对生产环境内存使用的影响，工程师可精读 `gpu_worker.py` 中的日志逻辑调整，理解CUDA图内存分析的工作原理和配置调整的意义。

新增 MoE 层 blocked fp8 量化测试，并优化并行配置验证逻辑。

建议关注 `BACKEND_EP_DP_TP_SUPPORT` 映射的设计，这是测试并行配置验证的核心；同时，`is_valid_config` 函数中的逻辑改进和错误消息修正值得精读，以了解测试健壮性的提升。此外，`fp8_blocked` 量化的测试扩展为未来量化方法支持提供了范例。