vllm-project/vllm

移除 DeepSeek-V4 ROCm 推理中不必要的 nan 清理内核，提升高并发性能。

该 PR 值得精读，尤其对于关注 ROCm 平台性能和 DeepSeek-V4 模型的工程师。其核心价值在于展示了如何根据上游修复来优化和清理代码，是一个典型的“技术债务清理”和“性能优化”案例。代码变更非常聚焦且风险可控，benchmark 数据充分支持了其收益。

调整 NVFP4 线性内核候选列表顺序，在 SM120/121 GPU 上优先选择 W4A4 内核，提升预填充性能。

该 PR 是一个高价值的性能优化修复，值得精读。核心设计决策在于通过调整静态数据结构（内核候选列表）的顺序来解决一个硬件特定的性能问题，而非引入复杂的运行时检测逻辑，这是一个简洁有效的方案。配套的单元测试良好地固定了关键的排序约束。虽然讨论中提出了更彻底的排序重构，但当前修复作为快速、低风险的改进被接受，是合理的工程权衡。

为 Quark 量化后端添加 per-block FP8 MoE 支持，使 MoE 模型加载和推理可使用 128x128 块量化尺度。

这是一个高质量且重要的功能 PR，值得精读。它不仅解决了具体的功能缺失，还在审查过程中展现了对代码库跨后端兼容性的深入思考和良好的工程实践（如提取公共函数）。重点关注 `QuarkW8A8Fp8MoEMethod` 的 `__init__` 和 `create_weights` 方法中对 per-block 路径的处理，以及 `validate_fp8_block_shape_moe` 如何被三个不同的 MoE 后端复用。对于从事量化、MoE 或 AMD 生态开发的工程师，此 PR 的设计和实现模式具有较高的借鉴价值。

在 SamplingParams 构造时验证 extra_args 整数范围，防止引擎序列化崩溃。

该 PR 是一个高质量、目标明确的 bugfix，值得精读。核心实现简洁高效，测试覆盖全面。其设计决策（在参数构造阶段进行边界验证）是处理此类跨层数据验证问题的典范。建议其他涉及外部输入序列化的模块参考此模式。

将 `test_modular_oai_triton_moe.py` 加入 GPU 内存清理白名单，修复 H100 CI 测试隔离失败。

这是一个简单、明确且必要的 CI 修复。由于其直接解决了影响多天的 CI 失败问题，且变更微小、风险极低，建议快速合入。该 PR 适合作为代码规范或测试最佳实践（如如何维护测试清理白名单）的参考案例。

ROCm 接入 AITER 融合 allreduce+RMSNorm 快路径

值得精读，尤其是对 ROCm 后端或通信/融合算子感兴趣的读者。看点有三：一是“性能快路径必须携带反面门控”的工程范式——只在一阶段窗口启用，宁可回退也不用更慢的 two-stage 融合，这一结论直接来自 reviewer 的 A/B 数据而非直觉；二是谓词收敛策略——把散落在三个 impl 里的判定上提到 AiterCustomAllreduce.use_1stage_fused_ar_rms，既去重又统一了 eager/编译路径的语义；三是评论区展示的定位方法（按 M 维度扫 rank-max kernel 时间、push vs pull 通信方向对比、stage-2 norm kernel 常数开销拆分）。建议后续跟进两件事：补上 supports_dynamic_hidden_dim 守卫（旧 aiter 的静默 no-op 风险），以及为 use_1stage_fused_ar_rms 的边界条件补单元测试。

修复 KV 卸载调度器在未对齐缓存命中边界时，滑动窗口覆盖范围计算错误导致崩溃的问题。

该 PR 值得精读。它展示了如何在复杂调度系统中处理边界条件和异构配置，引入了动态窗口计算这一稳健的解决方案。相关设计决策（如在 `GroupOffloadConfig` 上添加方法来封装计算逻辑）具有良好的内聚性。对于维护或扩展 vllm KV 卸载功能的工程师，这是一个很好的学习案例。