vllm-project/vllm

修复 Inkling 无思考块开头工具调用泄漏为 content

值得精读。这是一个观察“两遍解析不对称性”如何引发流式边界 bug 的典型修复案例：配置层一行事件、引擎层一次顺序重排，配合精确的 blast radius 审计与双形态门测试。重点阅读 `StreamingParserEngine._on_terminal` 的控制流重组，以及如何在不破坏 #51391 记账逻辑的前提下完成组合；测试设计（正反两种表形态的引擎级门测试）也值得借鉴。

Triton W8A8 scaled_mm 引入 Tensor 描述符加载并启用 XPU 路径

值得精读。重点看 TD 与掩码加载的设计权衡、转置权重（checkpoint 存储为 `w_q.t()`）如何通过 `B_T` 区分并在 tile 内转置、以及 tri-state 环境变量（`VLLM_TRITON_USE_TD`）在各平台上的默认策略。这个模式对后续其他 kernel 的 TD 迁移有参考价值。

发散混合缓存命中改为按 connector 能力开关，防无效状态

值得精读。该 PR 展示了典型的「能力契约 + 保守默认 + 显式 opt-in」模式：先用 capability 属性把「发散命中是否需要外部状态恢复」这一策略问题与具体 connector 解耦，再由调度器统一决策，风险面小而清晰。建议重点关注 KVConnectorBase_V1.supports_divergent_local_hybrid_hits 的契约语义、MultiConnector 的 all() 聚合，以及测试中 (False, 16, 6, 32) 用例如何锁定回落行为；若团队维护第三方 KV connector，需评估是否声明该能力以恢复发散命中性能。

补全两处类型注解，消除 griffe 文档构建警告

不值得精读。若团队也在用 griffe 或 mkdocstrings 生成 API 文档，可以把它当作“如何消除 missing type/annotation 警告”的最小范例：仅依赖 docstring 的 Args/Returns 描述不够，必须在函数签名上写类型注解。可顺带关注其 milestone 标注的 v0.27.0 cherry-pick 流程。

TPU 可导入 kimi_k3 公共模块，不加载 GPU 实现

值得快速一读：它展示了在包入口处理多平台的优雅分支策略，尤其是 TYPE_CHECKING 固定 nvidia、TPU 分支 pass 的组合。逻辑直白，无需深入精读。若关注 TPU 支持进展，可结合 PR #51196 一起看。

partial 递归块补发自描述 KV offload 事件，Mamba 组保留占位符

值得精读 `events.py` 中 `_record_partial_tail` 的 hash 对齐计算与 `scheduler.py` 的接入点，对自描述 KV 事件消费者有直接价值；tiering 混合状态下的元数据回填缺口可作为后续跟进方向。

ROCm CI 镜像按内容寻址复用，缓存命中率提升

值得精读，尤其适合维护多阶段 Docker 构建与共享 CI 缓存池的团队。三个设计决策最值得借鉴：1) 用“信任边界 + 内容寻址”区分 canonical 与 preview 缓存写入，在安全与命中率之间取得平衡；2) 用 digest 固定步骤间交接并在关键路径 fail closed，杜绝“以为复用了实际没复用”的隐性错误；3) 按昂贵依赖的变更频率拆分 Dockerfile 阶段（PyTorch 全家桶 / csrc / Rust / Python 依赖），让各阶段缓存独立失效。注意本 PR 无实质 review 讨论，主要审阅信号来自提交历史与 CI 验证结果，合入前建议对照最终 head 提交再做一轮评估。

FlashInfer 升级至 0.6.16.post3，启用分布式同步 autotune

值得精读，尤其是 kernel_warmup.py 中 flashinfer_autotune 的完整实现。其核心设计取舍——从"rank 0 集中广播"转向"全 rank 分布式同步调优"，以及用随机化输入规避 EP 场景同步挂起——是分布式推理初始化阶段的经典案例。建议阅读时关注 set_autotune_process_group 的用法、cache 的读写广播顺序，以及 randomize_inputs 参数在 _dummy_run 中的透传方式。若后续计划升级 FlashInfer，应注意本 PR 对 API 版本的强绑定。