vllm-project/vllm

发散混合缓存命中改为按 connector 能力开关，防无效状态

值得精读。该 PR 展示了典型的「能力契约 + 保守默认 + 显式 opt-in」模式：先用 capability 属性把「发散命中是否需要外部状态恢复」这一策略问题与具体 connector 解耦，再由调度器统一决策，风险面小而清晰。建议重点关注 KVConnectorBase_V1.supports_divergent_local_hybrid_hits 的契约语义、MultiConnector 的 all() 聚合，以及测试中 (False, 16, 6, 32) 用例如何锁定回落行为；若团队维护第三方 KV connector，需评估是否声明该能力以恢复发散命中性能。

补全两处类型注解，消除 griffe 文档构建警告

不值得精读。若团队也在用 griffe 或 mkdocstrings 生成 API 文档，可以把它当作“如何消除 missing type/annotation 警告”的最小范例：仅依赖 docstring 的 Args/Returns 描述不够，必须在函数签名上写类型注解。可顺带关注其 milestone 标注的 v0.27.0 cherry-pick 流程。

TPU 可导入 kimi_k3 公共模块，不加载 GPU 实现

值得快速一读：它展示了在包入口处理多平台的优雅分支策略，尤其是 TYPE_CHECKING 固定 nvidia、TPU 分支 pass 的组合。逻辑直白，无需深入精读。若关注 TPU 支持进展，可结合 PR #51196 一起看。

partial 递归块补发自描述 KV offload 事件，Mamba 组保留占位符

值得精读 `events.py` 中 `_record_partial_tail` 的 hash 对齐计算与 `scheduler.py` 的接入点，对自描述 KV 事件消费者有直接价值；tiering 混合状态下的元数据回填缺口可作为后续跟进方向。

ROCm CI 镜像按内容寻址复用，缓存命中率提升

值得精读，尤其适合维护多阶段 Docker 构建与共享 CI 缓存池的团队。三个设计决策最值得借鉴：1) 用“信任边界 + 内容寻址”区分 canonical 与 preview 缓存写入，在安全与命中率之间取得平衡；2) 用 digest 固定步骤间交接并在关键路径 fail closed，杜绝“以为复用了实际没复用”的隐性错误；3) 按昂贵依赖的变更频率拆分 Dockerfile 阶段（PyTorch 全家桶 / csrc / Rust / Python 依赖），让各阶段缓存独立失效。注意本 PR 无实质 review 讨论，主要审阅信号来自提交历史与 CI 验证结果，合入前建议对照最终 head 提交再做一轮评估。

FlashInfer 升级至 0.6.16.post3，启用分布式同步 autotune

值得精读，尤其是 kernel_warmup.py 中 flashinfer_autotune 的完整实现。其核心设计取舍——从"rank 0 集中广播"转向"全 rank 分布式同步调优"，以及用随机化输入规避 EP 场景同步挂起——是分布式推理初始化阶段的经典案例。建议阅读时关注 set_autotune_process_group 的用法、cache 的读写广播顺序，以及 randomize_inputs 参数在 _dummy_run 中的透传方式。若后续计划升级 FlashInfer，应注意本 PR 对 API 版本的强绑定。

KV offload 支持 chunked local attention，修复 Llama 4 启动崩溃

值得精读。本 PR 是理解 vLLM KV offload 调度器如何为不同注意力架构估算"可达尾部"的理想入口：重点看 get_sliding_window_size_in_chunks() 与 is_store_reachable_swa_chunk() 的配合，以及 cdiv 向上取整背后"宁可多存、不可漏存"的安全方向选择。改动小、审查聚焦，适合作为团队内部学习 KV offload 调度机制的样例。

修复次级 tier 加载失败导致请求永久卡死的 livelock

值得精读。核心看点是：`mark_miss` + enqueue-once 断言如何用最小 API 面（没有为 tier 新增任何回调）修复一类典型的"缓存与真实状态脱节导致 livelock"问题；performance 驱动的设计取舍（用实测 benchmark 数据否决 stat 方案而非凭直觉）；以及边界情形处理（短读 vs 瞬时错误的删除决策、close 失败语义、部分成功上报）。对 KV offload、异步缓存系统或共享存储 I/O 层设计有借鉴意义。