vllm-project/vllm

DSv4 eager 路径新增模型级缓冲池复用工作区，小幅优化 TTFT

值得精读。重点学习两个设计决策：一是 `_packed_size` 用 max 而非 sum 合并互斥 scratch 的思想——通过在注释中明确三类用途的 C4/C128 对齐约束来证明互斥性；二是 C++ 算子 out 变体模式（`..._insert_out`），把 kernel 内部分配改为调用方预分配，是削减 eager 路径分配开销的通用手法。对从事 CUDA Graph eager break、MLA 类模型优化或 kernel workspace 管理的工程师有直接参考价值。结合 review 中关于接口隐式约束的讨论，也能看到 vLLM 对函数接口友好性的坚持。

gfx942 回退到无损 Kimi K3 MXFP4 仿真

值得精读，展示了后端 fallback 设计模式：当首选后端不支持特定激活或设备时，如何无损回退到仿真路径，并正确处理量化语义。

稀疏 MLA 预填充启用 masked MHA 加速

值得精读。重点关注位打包掩码的构建与复用（`_build_topk_mask` / `_scatter_topk_kernel`）、全局掩码 64 MiB 上限的设计权衡，以及 `_use_masked_mha` 阈值表的推导依据。若计划在非 Blackwell 或量化 KV 场景扩展该优化，可参考其门控与回落机制。

JIT 监控 error 模式 e2e 门禁与 CI 测试拆分

值得精读 tests/jit_monitor/test_no_runtime_jit.py 的设计：shape battery 的编译键覆盖策略、spawn 子进程隔离、error 模式下区分 JIT miss 与无关崩溃的异常处理，都是后续 warmup 相关 PR 直接复用的模式。关注其从 skip 到启用的里程碑：一旦 Issue #49349 的 warmup contract 迁移落地，该门禁应尽快取消 skip 并在 JIT_MONITOR_MODELS 中逐步加入 jit-free 模型，才能真正兑现“nightlies 可开启 --jit-monitor-mode error”的目标。

删除 llava-onevision 测试单线程 workaround，交由 CI 验证

值得快速浏览（约 5 分钟）：它是一行删除，但背后是对 multiprocessing `spawn`/`fork` 与 vLLM executor 配置传播机制的准确分析，以及“用 CI 作为实验台验证非确定性 bug”的实践。建议维护者关注 CI 运行结果与 issue #50130 的状态：若挂起，按作者预案以线程转储定位；若通过，可在该条目加注释记录结论，避免未来重新引入同样的 workaround。

chat_utils.py 剩余 ValueError 统一改为 VLLMValidationError

值得精读，改动量小但展示了错误类型迁移中容易被忽略的边界：启动期校验与请求期校验的语义区分。关注点包括 VLLMValidationError 的 parameter 语义、VLLMError 非 ValueError 子类带来的兼容性影响，以及 error_response.py fallback 处理器的后续移除方向。

预热 renderer，消除多模态请求 22 秒首延迟

值得精读。该 PR 展示了一个典型的冷启动延迟优化：先定位一次性初始化开销，再将其从首个请求迁移到启动阶段，并通过统一入口覆盖所有调用路径。过程中对后台预热与 CI 挂起的排查、以及 `set_default_torch_num_threads(1)` 防挂起 workaround 都是可借鉴的实战经验。

KV 卸载新增按层 canonical 页映射，支持跨并行配置复用

值得精读。核心看 `canonical_mapping.py` 如何用 `ByteRegion`/`CopyRun` 表达 NHD/HND、packed/split、TP/GQA/MLA、DCP/PCP 的组合映射，以及 `CanonicalPageMapping.is_writer` 按 block 轮转的负载均衡设计；这是 vLLM KV offload 走向并行无关格式的关键一步。建议结合 follow-up #48414 一起阅读，了解消费端如何使用这些映射。