vllm-project/vllm

快速加载守护进程支持多节点 TP 部署

值得精读。关注三个设计决策：daemon 持有独立 rendezvous 端口的原因（跨节点组长期占用）、CUDA IPC 句柄节点本地性驱动的 per-node launcher 形态、以及全局/本地 rank 分离与引擎 rank 分配的一致性。建议同时结合 weight_cache 的 protocol.py 与 ipc_loader.py 阅读，理解 IPC 句柄导出与回放契约；注意该 PR 的 fp4 部分被拆出，合入内容仅为 nnode 支持。

修复 DeepSeek V4.1 拒绝 Responses API 文本类型，白名单扩充加回归测试

值得快速浏览，作为“一行修复 + 精准测试”的范本：它展示了在自定义 tokenizer 内做 content type 归一化时容易遗漏协议差异（Chat API 的 `text` vs Responses API 的 `input_text`/`output_text`）的教训。建议关注两点：一是 `_normalize_messages()` 这类协议适配层应尽量与通用 content 归一化逻辑复用，二是可将“协议类型别名”收敛到共享常量以降低未来遗漏风险。

gfx950 短上下文 top-k 改用单 CTA，selector 提速约 28%

值得精读，尤其是 `_decode_topk_launch_policy` 与两个对应测试用例：它们展示了 ROCm 内核性能调优的严谨姿势（把编译期参数纳入 launch policy、128/129 显式边界、CPU 全序 reference 验证 NaN/Inf/有符号零、图回放验证 counter 重置）。对非 ROCm 开发者参考价值有限，但「只有输出精确一致才允许跳过模型评估」的判断标准和「launch geometry 与算术解耦」的设计思路值得借鉴。合并本身无阻塞，维护者已批准。

排除 QSA ring 组，修复 MooncakeStore 混合注意力启动崩溃

值得精读。该 PR 展示了「transferable ≠ storable」的投影分层设计：同一 KV cache group 可因 `prefix_cacheable` 属性在不同连接器视角下呈现不同子集，并通过「扩展既有 API 而非新增 selector」控制接口膨胀。review 中 ivanium 与作者的几轮交锋（命名、抽象层次、API 删除）是接口设计讨论的良好案例。建议关注后续是否统一 `select_transfer_block_ids` 与 `get_block_ids(group_ids=...)` 的接口职责，以及 `prefix_cacheable` 属性在各 cache spec 上的契约覆盖。

XPU 测试依赖对齐 cuda.in，修复 gpt-oss-20b CI 失败

不值得精读，可作为 vLLM 平台化测试依赖管理的快速参考。值得关注的要点：requirements/test 下按平台拆分 .in 文件的做法、gpt-oss 这类模型评估包通过版本下限加环境标记（python_version、platform_machine）做条件安装的写法，以及 .in 与 .txt 的分工（源声明与编译产物）。后续接手 XPU CI 维护时，应保持 xpu.in 与 cuda.in 的同步习惯。

mHC pre-norm 预热并行编译，编译阶段提速约 2.2 倍

值得精读。改动小、结构清晰，是“框架默认行为不变 + 子类按需重写”的典型扩展示例，关注点集中在 compile_many 的去重、缓存保留、worker 上限与 strict 写回这四个细节上。对计划优化其他 TileLang 内核冷启动的工程师有直接借鉴价值。

修复 DSv4 + DSPark 启动时 EP 未透传导致的启动错误

值得快速浏览的一行修复，但背后揭示了一个可复用的模式问题：draft parallel config 通过字段枚举方式复制 target 配置，容易遗漏新字段。建议关注是否可将 create_draft_parallel_config 重构为基于 target_parallel_config 的对象拷贝（仅覆写 pipeline_parallel_size 与 tensor_parallel_size），从根上避免同类遗漏。对于使用 DSv4 + DSPark 的用户，此修复是必合项。

EPD 代理改用 msgspec 并透传响应字节，吞吐提升 51%

值得精读。核心看点：一是在不改变路由与重试语义的前提下用 msgspec 统一 JSON 编解码；二是流式与非流式响应都改为字节直传，消除双重序列化；三是测试用真实 HTTP 栈覆盖 4 种组合，并以多字节字符跨块边界验证字节完整性。若后续要把 EPD 代理收编进核心路径，可参考这套基准与测试方法。