vllm-project/vllm

修复 Plamo2 在 transformers v5 下的 HF runner 崩溃

可快速合入。该 PR 是 Transformers v5 升级跟踪的一部分，修复方式合理，逻辑清晰，可作为未来类似兼容问题的修复模板。

修复推测解码下 stop 字符串选择错误

值得精读，特别是理解推测解码下 stop 字符串处理的边界情况。设计决策简单有效：通过遍历所有 stop 并选择最早完成位置来保证一致性。测试覆盖全面，可作为纯函数单元测试的参考示例。

修复 grammar 编译失败导致引擎崩溃

本 PR 值得精读，尤其是： 1. 如何在 `ThreadPoolExecutor+Future` 模型中安全处理生产者线程的异常，避免全局崩溃。 2. 将同步路径的异常统一包装为 Future 的设计模式，简化了调用方的处理逻辑。 3. Review 讨论中关于错误消息暴露的权衡（安全性 vs 可调试性）是很好的安全边界案例。

限制共享内存广播 reader 闲置等待并修复读槽泄漏

值得精读。该 PR 展示了典型的分布式通信可靠性增强手段：通过 bounded wait 防止无限阻塞，以及通过 finally 确保资源释放。设计上选择模块常量而非 env var，体现了“安全网而非调优参数”的意图，值得学习。建议有 PD 分离或多进程共享内存通信需求的团队关注。

分块拒绝采样避免 OOM

建议精读 rejection_sampler.py 中的分块实现，特别是 _iter_request_chunks 和 _verify_in_chunks 的设计，该方法通过固定缓冲区避免 OOM 且保持无同步循环，对未来类似问题有借鉴意义。

简化 KVBlockZeroer 索引张量处理，删除循环缓冲区预分配

值得阅读，这是一个典型的内务清理重构案例，展示了如何识别不必要的复杂抽象并精简内核路径。可以帮助团队成员理解何时可以移除遗留优化结构。

修复外部KV cache全命中时调度器选择错误边界导致重复加载失败

值得精读。PR 展示了在分布式缓存系统中如何处理“全命中但最后一个 token 需重算”的边界问题：将边界对齐责任下放给 worker，复用外部存在快照避免二次 RPC，设计简洁且测试充分。

Mooncake prepare_value 向量化加速 4.4 倍

推荐阅读，尤其是对性能敏感的后端优化：展示了如何利用 NumPy 将逐元素循环向量化以获得数量级提升，同时通过精心设计的测试确保正确性。