vllm-project/vllm

XPU 启用 5 个 Triton 内核单测并新增 round_int8 覆盖

建议测试与多后端支持方向的工程师精读本 PR：它直观展示了 "Adjusted" 型 PR 的标准化写法（skip 条件 + 设备变量 + 参考实现对比），也是 RFC #48480 系列的可复制模板。若关注 XPU 测试覆盖，可进一步跟踪后续把 ROCm 也纳入 DEVICE 选择逻辑、并在 XPU CI 中显式纳入这些测试文件的 PR。

PushConnector 记录远端活跃时间以清理过期引擎

值得精读。该 PR 虽小，但体现了分布式连接管理中一个典型陷阱：继承的清理逻辑需要正确接入活跃信号源才能生效。阅读重点：`_do_start_push_kv` 中刷新位置的选择及其注释，以及两个针对性测试如何用桩构造方式隔离真实 NIXL。对于想理解 vLLM KV connector 可靠性和 NIXL push 模式的工程师，这是很好的入门案例。

移除设备能力检查的冗余 NVML 初始化，消除热路径开销

值得精读，虽然 diff 极小：其一，「装饰器职责（缓存 vs context）不一致 → 热路径隐性开销」的排查链路（py-spy 采样 → 调用链 → 对比兄弟方法）是性能诊断的范本；其二，修复选择「移除冗余包装而非加 @cache」直击根因，避免首次调用仍付一次冗余 init/shutdown，且留下防回归注释；其三，测试用 stub 计数 + mutation check 证明测试有效性，值得在性能回归测试中推广。重点关注 `vllm/platforms/cuda.py` 的 `has_device_capability` 与 `tests/cuda/test_cuda_context.py` 的 `_stub_nvml`。

修复动态 INT8 W8A8 MoE 配置被误建成 W8A16

值得精读。虽然改动只有 9 行，但它展示了一个典型的配置契约错误：以“数据是否存在”推断“量化模式”，忽略了动态量化这一显式声明。建议关注 `make_int8_moe_quant_config` 的分拣条件与 `CompressedTensorsW8A8Int8MoEMethod` 的调用约定，并跟进补充 int8 W8A8 配置测试，防止回归。

删除多平台内核死代码，净删 396 行无功能变更

作为纯死代码删除的 PR，不建议精读实现细节；但值得关注其识别死代码的方法：跨多个硬件后端与 V1 执行路径系统性地通过调用关系与 CI 验证删除无引用符号。对于维护内核生态的工程师，可以借此了解 vLLM 内核演进痕迹（如 FA4 编译请求的简化、旧 libtorch_stable 内核的退役）。合并前确认了 CI 通过，风险较低。

支持 DeepSeek-V4 Quark 混合量化 checkpoint 加载

值得精读。重点关注三个设计决策：per-block FP8 拆分为独立 scheme 类的模式（对齐 modelopt 写法）、通用 QuarkConfig 与模型专属映射的边界划分（含 packed_modules_mapping 类级复制细节）、process_weights_after_loading 只做委托不写后端特判的约定。评审中关于 NVFP4 MoE w1/w3 global scale 策略（raise vs max vs w1）的交锋也值得回味，最终选择了与 ModelOpt / compressed-tensors 一致的既有约定。

修正 block-FP8 MoE 测试参考，保留全局紧容差

值得精读。重点看 `torch_w8a8_block_fp8_moe` 的双参考设计（按 kernel 精度配对参考变体）以及作者对 #46658 方法的量化论证——这是区分“kernel 误差”与“参考伪影”的教科书级案例。mawong-amd 对 FP8 量化 ULP 差异的分析也有普适参考价值。

KV offload 新增磁盘后端，reload 提速超 10 倍

值得精读，尤其是 disk_backend.py 的双缓冲流水线与 launch_copy 接口抽象：它演示了如何在不改动 worker 传输逻辑的前提下替换 offload 后端，以及 O_DIRECT 对齐、iovec 预构建、store/load 队列分离等工程细节。设计决策上推荐关注两点：一是调度层完全复用 BlockPool/LRU 使得磁盘槽位与 CPU 块同构，大幅降低接入成本；二是安全加固（先 unlink 再 O_EXCL、shutdown 泄漏 fd）体现了对多租户环境的考量。后续应补齐单测并明确 IO 线程异常恢复策略。