vllm-project/vllm

MRV2 多模态编码器启用 CUDA Graph 捕获与执行

值得精读。重点看 encoder_runner.py 的双路径回退设计、model_states/interface.py 中 manager 生命周期与门控条件，以及 model_runner.py 中 encoder/decoder 捕获的解耦编排。后续可关注编码器捕获是否会被移出 dummy LoRA 上下文，以及 is_captured 状态机在配置变更场景下的行为。

入口异常处理器迁出 server_utils，收敛为独立包

值得精读：`register.py` 的 4 层注册设计及 ExceptionMiddleware/ServerErrorMiddleware 的差异说明是 FastAPI 异常处理的最佳实践；`validation.py` 中不用 `str(exc)` 而手工构造消息、并用 loc 清洗避免向用户暴露 pydantic 内部细节的写法值得借鉴。建议阅读后顺带补回被删的 #31683 端到端测试，并审视 4 处重复日志代码是否需要抽取公共 helper。

向量化 Cohere 二进制 embedding 位打包，约 4.3x 提速

值得精读。这是一个小而美的向量化重构范例：用 `np.packbits` 替换嵌套循环并保证字节级等价，同时通过边界测试把负零、denormal、非 2D 输入等语义钉死。值得关注的设计决策包括 float64 符号判定、空输入早退和显式维数校验。

升级 XPU 内核包到 0.1.13.2

不值得精读，可作为依赖升级的标准范例。值得关注的是 vllm 通过精确版本固定第三方内核包，并依赖 CI 验证；同时体现了 XPU 支持主线上依赖包与 CI 修复相互配合的节奏。

PP 下 sampled-token 广播改异步，XPU 吞吐提升约 33%

值得精读，虽然改动只有 11 行，但展示了「把阻塞通信改为异步 + 延迟 wait 到消费点」的经典重叠手法，并暴露了 Work 句柄生命周期管理这一易错点。建议关注 `_pp_recv_work` 的消费时序，并在未来补一个 PP + async 的时序测试。

扩展生成测试超时从 65 分钟调至 80 分钟

不值得精读，可作为 CI 超时治理的小案例快速浏览。值得关注的决策点：作者选择放宽超时而非分片或裁剪测试，在稳定性与资源成本之间取得平衡；同时应留意 #48186 的压缩决策与本 PR 的回退方向，说明单次运行样本得出的超时预算不可靠。建议后续跟踪该任务实际运行时长分布，若持续逼近 80 分钟应转向性能定位而非继续放宽。

CPU MXFP4 解包零值特判 4 指令折叠为 2，位级等价

值得精读，重点看三处： 1. `vptestmw` 互补掩码 + `maskz_add` 的指令折叠思路——用谓词补集加零掩码写入替代混合选择，是 AVX-512 下常见的两指令等价变换范式。 2. 测试设计：针对“现有 1e-2 容差会包住坏特判”的盲区，特意构造全零码场景并用精确相等断言，体现了围绕不变量而不是围绕功能正确性写测试的思路。 3. 作者对性能数据的处理：主动撤回不可复现的测量行、明确区分硬指标（位精确性、指令数）与辅助证据（吞吐），是技术汇报的可借鉴范本。建议关注 sglang#34292 的合入状态，确保两份 `vec.h` 保持一致。

为 XPU 新增预构建 wheel 的发布与安装支持

推荐精读，面向发布基础设施维护者和 XPU 支持相关开发者。值得关注的设计决策： 1. 用多阶段 target `vllm-build` 分离 wheel 构建与 runtime 镜像，避免把编译工具链带进最终镜像； 2. 用 `triton==3.7.2+xpu` 同发行版 shim 解决依赖命名冲突，比 uninstall/install 更可维护； 3. 索引过滤刻意收窄到 `vllm-*` 与 `triton-*+xpu-*`，防御性写法值得在其他平台复用。 对一般用户而言，主要是安装文档变化，可作为 XPU 安装路径参考。