vllm-project/vllm

新增请求级抢占次数直方图，细化抢占可观测性

改动小而清晰，值得作为 vLLM 指标层入门的精读样例。值得关注的决策点有两个：一是 histogram 语义设计（per-request lifecycle 指标与节点级事件计数器的分工），二是 bucket 边界对 Ray Metrics Exporter 的兼容处理。若运维团队关注 KV cache 压力下的服务质量，可基于该指标建立"高抢占次数请求占比"告警。

新增 FlashInfer W4A16 内核，SM100 默认启用

值得精读。它为“接入第三方 GEMM 内核并切换默认内核”提供了完整范本：custom op + fake 注册、能力探测、分层回退（is_supported -> auto -> Marlin）、测试与文档配套。重点关注 `init_nvfp4_linear_kernel` 的 auto 分支决策和 `apply_weights` 的 BF16 断言；任何在 Blackwell 上运行 ModelOpt FP4 模型的同学都应了解这一默认行为变化。

ROCm CI 冒烟校验移入 BuildKit，免冷拉 13GB 镜像

值得精读。这是“在构建系统内自验证、避免跨守护进程搬运镜像”的典型 CI 优化案例。重点看三点：`smoke-test-image.sh` 的双路径设计（BuildKit 内直接执行 vs host docker 回退）、`ci-bake-rocm.sh` 的 fail-closed 编排（局部输出目标不被已有镜像跳过逻辑短路）、以及测试中对 marker 跨构建复用的负例覆盖。对自建 CI 基础设施的团队有直接借鉴价值。

冻结捕获期 GC，V2 捕获提速约 6 倍

值得精读。核心设计决策有三点：一是把 V1 的 _freeze_gc 抽取为公共 context manager 而非复制，避免两套 runner 行为漂移；二是以 gc.isenabled() 作为跳过清理的条件，巧妙复用 freeze 的副作用传递状态，但这也构成隐式契约，阅读时需注意；三是保留 VLLM_ENABLE_CUDAGRAPH_GC opt-out，兼顾依赖 GC 行为的特殊场景。建议关注后续是否补充 freeze 恢复语义的测试。

Rust 分词依赖迁移至 tekken 0.2.0，剔除音频图像依赖并去重 tiktoken

值得快速精读（约 5 分钟）：这是一次教科书式的 Rust crate 重命名迁移。可借鉴的两点：其一，重命名 crate 时保持 library name 不变，让下游 `use` 语句零改动；其二，利用 `default-features` 语义变化（从空操作到真正生效）顺手裁剪依赖树并完成版本去重。对 Rust 前端或依赖治理的维护者，Cargo.lock 的 diff 是理解依赖图变化的最直观入口。

拓宽 tool-calling 自动打标规则，覆盖率 20/50 升至 50/50

该 PR 是典型的 CI 配置优化，但体现了数据驱动的改进方法（用历史数据验证召回率）。值得快速阅读 issue_autolabel.yml 的当前结构，了解 keywords 与 substrings 的语义差异（前缀匹配 vs 子串匹配）。关注点：后续如发现误报增多，可考虑将 tool、thinking 等宽泛词限制为更具体的组合。

分词器词表大小改构造期缓存，大词表每请求省约 112 ms

值得快速精读，尤其关注两点：一是 benchmark 方法（`black_box`、多进程取中位数与 p90），二是"把不可变统计量从热路径移到构造期"的通用优化思路。单文件、低风险、语义不变，适合作为 Rust 前端延迟优化的参考样例。

prefill 内核 tile 不再依赖 page 尺寸，混合模型提速最高 2.78x

值得精读。三个亮点：一是 vestigial code 的考古方法——从 #31380 引入 `PHYSICAL_BLOCK_SIZE` 的历史因果中证明 32/32 降级分支已无存在前提，而不是靠直觉删代码；二是测试方法论——用 fp32 reference 而非 stock kernel 做对照，配合 negative control，能区分“与之前不同”与“错误”，还补了跨代 LDS 预算验证与 e2e A/B；三是工程纪律——block-table load 未掩码问题即使有修复方案也因性能代价拆成独立 PR，不夹带进性能改动。对做 kernel 优化的工程师，这份 PR 的验证闭环和边界处理方式很值得参考。