vllm-project/vllm

XPU 启用 torch 原生 FP8 block-wise GEMM 后端

值得快速浏览：改动极小，但展示了多平台内核候选表的扩展模式——如何把一个平台无关的原生后端挂接到特定平台的回退链上。建议关注两点：一是该内核在 XPU 上的验证充分性（后续可补充 kernels 层单元测试或更丰富的 E2E 覆盖）；二是它与 XPUFp8BlockScaledMMKernel 在数值和性能上的对比，避免兜底路径被意外选为主路径。

修正投机解码文档 8 处拼写与格式错误

不值得精读。可作为新贡献者了解 vLLM 文档贡献流程（fork PR、`/ci run`、docs build on main 的影响）的小样例；值得关注的一点是合并前维护者特意把分支同步到修复了 docs build 的 main，说明 vLLM 对文档构建 CI 是保持绿色状态的。

AR 投机解码多步融合进单个 CUDA graph，按 backend 能力门控

值得精读。这是 MRV2 投机解码路径的一次重要架构改进，核心看点有三个：一是以 backend 能力矩阵做特性门控并自动回退的安全设计；二是将“只在捕获期执行”的契约（capture-safe、持久存储）写进基类协议的文档化思路；三是作者对性能测量非常克制——既给出 A/B 数据，也承认 device-bound 场景无系统收益，并用 acceptance-normalized 指标排除采样率干扰。读者应重点关注 `_generate_fused_drafts` 的循环顺序与 `update_draft_decode_metadata` 的调用时机，以及 FA3/sparse SWA 两个适配示例。

DSV4 路由专家保留原生 I384 分片，每卡省 31 GiB 显存

值得精读，尤其对 ROCm/AITER 量化和 MoE 部署团队。亮点是设计的收敛过程：从「AMD 专属模型子类 + monkeypatch 测试」逐步迭代为「oracle 中按 backend + activation 键控的 6 行分支 + 干净单测」，体现了「对齐是后端 kernel 的属性，不是模型的属性」这一原则；review 对测试 scope 的收敛（skip 标记、去掉 monkeypatch、用 `Renormalize` 路由证明解耦）也是可复用的范例。PR body 的配对内存/性能验证方法（含 checkpoint header 推导、非回归门声明）值得作为量化类变更的验收模板。

修复 base.py 中过时的 docstring 声明

不值得精读。这是一个简单的文档一致性修复，可作为维护 docstring 与签名同步的小案例。关注点在于它避免了文档构建工具对错误参数声明的警告。

AMD Zen CPU 的 BF16 MoE 改走 zentorch 融合内核并带优雅回退

值得精读。核心看点：(1) 两级能力检测设计——config 级（`is_zentorch_moe_config_supported`）与 layer 级（`is_zentorch_moe_supported`）分别服务 `is_supported_config` 与权重加载阶段，职责清晰；(2) “跳过 prepack”所隐含的权重布局契约，是接入外部内核时最容易踩坑的点；(3) 从旧 `CPUFusedMOE` 移植到 `CPUUnquantizedExperts` 的 rebase 过程，展示了在模块化内核架构下如何平滑承接第三方路径。对计划在 vLLM 中集成厂商内核（oneDNN、ACL 等）的工程师是很好的参考模板。

XPU 镜像安装 xpu-manager，支持设备状态监控

值得精读的 infra PR，展示了在受限依赖环境下引入第三方包的方法：固定版本下载 + dpkg-deb 解包 + 临时 PPA 清理。建议关注两点：一是后续为 deb 增加校验和校验，并在 CI 或发布流程中加入 xpu-smi 冒烟测试；二是跟踪 dpkg-deb 绕过 postinst 带来的运行时配置缺失，必要时补充手工 udev 规则、权限与符号链接配置。

AMD CI 持久化 harmony vocab 缓存并放宽文件模式校验

值得快速阅读。重点看两个设计：一是用 `TIKTOKEN_RS_CACHE_DIR` 把第三方运行时缓存重定向到持久卷、并让容器内外路径保持一致的写法；二是 `core.fileMode=false` + git diff 退出码分段，区分内容差异与 git 执行失败，避免共享工作区文件模式漂移误杀 CI。对维护 AMD/ROCm CI 的同学尤其有价值。