vllm-project/vllm

NixlPushConnector 禁止双向传输模式

该 PR 是防御性编程的典型示例，值得快速合入。对于维护 KV Connector 模块的团队，建议检查其他 connector 是否有类似缺失的配置校验。

统一 KV offload 请求完成生命周期契约

值得精读。PR 清晰地展示了跨层生命周期契约的设计与统一过程，Review 讨论中包含大量设计权衡（时机选择、状态聚合、命名争议）。对于理解 vLLM 中多层 offloading 的架构和演进非常有帮助。建议关注 `RequestState` 和 `_maybe_finalize_request` 的实现细节，以及 reset_cache 的边界处理。

切换 XPU Docker 镜像基为 Ubuntu 24.04

该 PR 属于基础设施维护，技术复杂度低，但值得关注其构建路径的改进思路。适合负责 Docker 镜像或 Intel GPU 支持的工程团队精读。

修复 TYPE_CHECKING 下 Literal 别名导致 pydantic 验证失效

值得精读：本 PR 展示了如何优雅处理 Python TYPE_CHECKING 与 pydantic 验证之间的经典摩擦，设计简洁，适合作为类型系统最佳实践参考。

提高 Rust 前端请求体大小限制

值得合并。该修复解决了实际用户问题，改动清晰且经过测试。

重构 KV offload 子系统，用方向显式 Worker 替代旧 Handler 路由调度。

建议花时间精读此 PR。它展示了如何通过抽象设计消除间接层、使语义显式化的重构方法论，尤其适合需要降低复杂性的长生命周期项目。重点关注 `base.py` 中 `OffloadingWorker` 接口的设计，以及 `CPUOffloadingWorker` 如何将双向传输合并到一个类中。此外，测试取舍决策也值得学习。

为 Triton 后端新增 INT4 per-token-head KV 缓存量化

值得精读，特别是 `int4_per_token_head.py` 中 nibble 打包、RHT 变换和零点隐写的细节，展示了高效 sub-byte 量化的工程实现。对于关注显存优化的团队，此 PR 提供了实用的新选项。建议关注后续对 ROCm 等平台的适配。

仅增量检查并存储Mooncake KV缓存

建议阅读，尤其增量存储思路和`process_tokens`重构，展示了如何通过记录offset优化重复路径。对于Mooncake Connector后续开发有参考价值。