vllm-project/vllm

修复KV连接器单元测试中的类型错误，将cache_dtype从torch.bfloat16改为字符串'bfloat16'。

此PR变更简单，无需精读。工程师可关注以了解测试接口类型一致性，但无复杂设计决策。建议结合PR #38378查看引入问题的上下文。

修复Qwen3.5 MTP模型在NVFP4量化下因mtp.fc层缺失排除配置导致的加载崩溃问题。

该PR值得精读，尤其是对于处理量化模型和推测解码的工程师。关注点：1. 量化配置与检查点格式不匹配的典型问题及临时修复策略。2. 如何通过条件逻辑在模型初始化阶段动态调整量化设置。3. 与上游依赖（Model-Optimizer）的协同修复流程。

新增TeleChat3模型支持，扩展vLLM模型库。

建议工程师精读telechat3_scaling_rope.py中的TeleChat3RoPEScaledRotaryEmbedding类实现，关注其如何继承和修改YaRN方法，以及get_rope函数中的参数传递逻辑，这对理解vLLM的RoPE扩展机制有参考价值。

支持Mamba Conv状态布局切换，提升性能并启用异构TP支持。

该PR值得精读，特别关注Mamba内核优化中的设计决策（如布局切换机制、与KV缓存布局的类比）和性能权衡（TTFT vs 兼容性）。工程师可从中学习状态管理优化技巧，管理者应留意align模式问题的解决进展。

修复Gemma4工具调用解析器构造函数签名不匹配导致的400错误

该PR变更简单直接，是典型的接口对齐修复。对于大多数工程师，只需了解修复了Gemma4工具调用解析器的构造函数签名不匹配问题。值得关注的是： 1. 这是一个典型的'新代码使用旧接口'问题，提醒在继承现有基类时需要注意接口变更 2. 修复方案采用了与其他工具解析器完全一致的模式，保持了代码一致性 3. 属于v0.19.0版本的重要补丁，需要确保包含在发布中

修复测试用例中cache_dtype参数类型错误，确保与KV缓存量化接口兼容。

该PR变更简单，无需精读。值得关注的是它反映了#38378引入的接口变更（cache_dtype从torch.dtype对象改为字符串），这对理解KV缓存量化功能的API设计有参考价值。

修复CI依赖配置，确保flashinfer.py变更能触发注意力测试。

对于技术管理者：此PR无需深入审查，可快速合并。对于工程师：除非您负责CI维护或修改flashinfer.py，否则无需精读。值得关注的点是CI依赖管理的重要性——一个遗漏的依赖可能导致回归漏检。

实现Google Gemma 4模型家族支持，包括MoE、多模态、推理和工具调用。

建议技术管理者和工程师精读此PR，重点关注以下设计决策：1) 异构头维度（head_dim 与 global_head_dim）下的注意力后端强制选择（Triton），以避免混合后端导致的数值发散；2) Gemma4特定RoPE实现（比例缩放），处理部分旋转维度的零填充；3) 多模态处理器中的错误处理优化和性能批量处理策略，可作为类似模型集成的参考。