vllm-project/vllm

新增 tool_call_parser_invocations_total Prometheus 指标

值得阅读 review 中关于指标设计、延迟初始化和低基数标签的讨论，有助于理解 vLLM 中 Prometheus 指标注册的约束与模式。

修复组合权重加载器导致参数丢失的 bug

此 PR 属于关键 bug 修复，逻辑精巧，值得精读。建议关注 `get_numel_loaded` 函数的设计模式（通过 TorchDispatch 拦截 copy_ 来计数），以及如何通过上限截断解决 composed loader 的双重复制问题。新增的测试用例是良好的回归测试范例。

修复 DSv3 路由 gemm 的 max batch 启发式逻辑

建议精读该 PR，它展示了一个小而精的性能 hack：根据 GPU 架构动态调整内核选择阈值。设计决策——如将阈值作为实例属性而非全局常量——值得参考，便于后续扩展。同时，该 PR 体现了数据驱动优化（实测微基准）的重要性。

延迟导入 humming 量化后端，避免不必要的导入副作用

值得精读此 PR 的懒加载门面设计，可作为其他可选后端导入优化的参考模式。建议关注其对类型提示的实际影响，必要时可补充类型桩。

Nemotron V3 未闭合 thinking 块时内容丢失修复

建议相关开发者仔细阅读，特别是 `finalize_generation` 的设计体现了延迟处理未完成块的思想。设计上采用 opt-in，行为清晰，值得借鉴。

删除低使用率的 ERNIE BERT 式池化模型

可精读以下设计要点： - 如何基于使用率数据（遥测）做代码功能退役决策。 - 如何通过 `_PREVIOUSLY_SUPPORTED_MODELS` 处理功能删除后的向后兼容性。 - 测试删除时如何同步清理测试用例和示例模型条目。 该 PR 是 vLLM 模型管理策略的典型案例，值得模型运维和代码清理相关开发人员关注。

为KV offload管理器添加标准化Telemetry接口

该PR值得深度阅读，特别是对设计可扩展监控系统的开发者。关键决策在于自描述扁平统计载荷的设计和deprecation迁移策略。建议结合RFC（#44008）形成的指标重设计思路来理解整体演进方向。

修复 Rust Tokenizer 遗漏 tokenizer_config.json 中的 added tokens

此 PR 值得合并，它修复了一个关键的多模态模型兼容性 bug。设计上采用合并策略，优先保留 tokenizer.json 中的 token，安全可靠。建议后续关注 fastokens 上游修复的进展，如果上游已支持 added_tokens_decoder，可简化 Rust 端的合并逻辑。同时建议增加更多边界测试，如 id 冲突、非数字 key、大并发加载等场景。