vllm-project/vllm

修复 Kimi-K2.5 多模态推理因媒体占位符 token ID 不匹配导致的崩溃问题。

该 PR 值得精读，因为它展示了处理模型配置与运行时 tokenizer 不一致的优雅模式：通过 tokenizer 解析关键 token ID 并动态打补丁配置，同时添加防护检查避免静默失败。关注设计决策：在初始化时解析并缓存 token ID，避免每次调用都查询 tokenizer；使用 logger.warning_once 记录不一致情况，便于调试；添加 unk_token_id 验证确保鲁棒性。

为 XPU 平台添加 FP8 KV 缓存支持，扩展量化推理能力。

建议 XPU 开发者和量化功能关注者精读此 PR，了解 FlashAttention 后端如何适配不同硬件以及 descale 参数的传递方式。值得关注的设计决策包括平台检测逻辑的权衡和未来接口统一的方向。

修复ROCm CI中多模态内存泄漏测试的配置问题，确保测试稳定运行。

该PR属于常规CI配置修复，无需深入阅读代码。值得关注的是ROCm平台上多模态测试的特殊要求（需要spawn多进程方法），这对跨平台测试配置有参考价值。

为XPU平台FP8线性方法添加每通道量化支持，扩展模型兼容性。

该PR值得精读，特别是XPU平台量化支持的设计决策。关注点包括：1) can_implement方法中量化键的扩展逻辑；2) 权重转置处理的必要性及其对性能的影响；3) 与review中提到的内核选择框架的潜在整合点。

新增压缩张量后端 MXFP8 量化方案，支持线性层和 MoE 层。

该 PR 值得精读，特别是量化方案检测和 MoE 方法实现，展示了如何扩展压缩张量后端以支持新格式。关注点包括：设计上如何集成 MXFP8 到现有量化框架，review 中讨论的模块性权衡，以及内核选择逻辑的演变。对于涉及量化或高性能推理的开发者，这是学习 vLLM 量化扩展机制的案例。

修复swap_blocks_batch中cuMemcpyBatchAsync的运行时兼容性问题，避免在旧CUDA驱动和CUDA 13.0上崩溃。

建议工程师精读此PR，重点关注cuGetProcAddress的用法、函数指针类型定义（BatchFn）、以及fallback机制的设计。对于技术管理者，此PR展示了如何平衡性能优化与兼容性，值得在类似跨版本支持场景中借鉴。

融合 FP8 DeepGemm 量化内核的零初始化，实现约 1% 解码加速。

建议技术管理者和工程师精读此 PR，重点关注内核中填充处理的实现细节和测试用例的设计。这展示了如何通过融合初始化来优化性能关键路径，同时确保正确性，值得学习其内核优化技巧。

修复Gemma4ForCausalLM加载LoRA适配器的命名映射问题，确保兼容性。

对于涉及Gemma4模型或LoRA加载机制的工程师，此PR值得精读以了解权重映射设计。重点关注hf_to_vllm_mapper的实现，以及如何通过WeightsMapper处理不同模型命名约定。