vllm-project/vllm

CUDA 图捕获始终构建注意力元数据

此 PR 是一个值得精读的修复，展示了 CUDA 图捕获中注意力元数据管理的设计决策。注释中清晰解释了 FULL 和 PIECEWISE 模式下元数据构建的权衡，对理解 vLLM 的 CUDA 图架构有参考价值。

语音转录长音频时间戳漂移修复

核心 fix 思路清晰正确，review 过程中的精度讨论值得关注。建议 merge 前确保所有测试通过，并关注是否有外部消费者依赖旧签名。

Rust gRPC 前端新增服务与模型发现 API

该 PR 是 Rust 前端 gRPC 架构演进的重要一步，值得负责部署和可观测性的工程师精读。特别应关注以下设计决策： - 服务拆分与重命名的时机（在客户采用前完成 breaking change）； - 握手协议字段的扩展方式，包括如何在不破坏兼容性的前提下添加新字段； - 字段编号 gap 的处理，体现了 protobuf 演进的经验。

移除 NIXL KV 连接器中已废弃的 split 方法

值得快速合并，作为架构清理的一部分。开发者可阅读此 PR 了解如何随设计演进逐步简化组件。

修复测试中环境变量突变导致其他用例失败

建议团队成员了解这种通过 `monkeypatch` 替代环境变量的测试模式，未来类似场景应优先使用 `monkeypatch` 或 `unittest.mock` 来隔离环境依赖，避免模块级副作用。PR 本身值得精读的代码量很少，但方法值得借鉴。

视频哈希优先使用压缩源字节，大幅减少解码开销

此 PR 值得精读，尤其适合关注多模态缓存、性能优化以及类型安全设计的读者。实现中的一个亮点是“比较大小选择最小哈希输入”的通用思路，可复用到其他场景。Review 中关于碰撞风险和类型精度的讨论也提供了很好的工程实践参考。建议合并后密切监控视频哈希相关的缓存行为和内存指标。

跳过无操作时的 FP32 logits 物化

值得精读：展示了通过低开销的 CPU 端批量检查来避免 GPU 端多余数据搬运的通用优化模式。PR 实现简洁，对理解 MRV2 采样器架构和后端性能优化有参考价值。

修复 Jina rerank/score 在线路径 truncate_prompt_tokens 字段丢失

该 PR 是典型的回归修复案例，值得阅读以理解代理模式下的字段透传陷阱。讨论了 `_truncate_scoring_data` 与 `truncate_prompt_tokens` 的职责分离，对理解 vLLM 的提示处理管线有参考价值。