vllm-project/vllm

修复 FP8 Marlin 方形权重损坏 bug

建议精读并 cherry-pick：修复了关键数据损坏 bug，且设计上强化了布局契约，为后续规范化铺路。

修复 FusedMoE 专家映射调用点

建议精读，这是一个教科书级的重构遗漏修复，适合理解跨文件重构的收尾工作。

修复 V2 模型运行器多模态 LoRA 映射未设置导致测试失败

此 PR 修复明确，测试充分，建议立即合并。值得关注的设计是将 LoRA 激活与多模态 embedding 生成解耦到独立模块，未来维护时可借鉴。

提取 CPU 注意力后端 KV 缓存更新为独立方法

该 PR 是架构统一工作的重要一环，建议关注 `do_kv_cache_update` 的设计模式（保护上移、动态 ISA 推导）。如果有 CPU 注意力相关开发，值得精读；如果仅关注 GPU 后端，了解接口变更即可。

MoE 层所有权反转与模块化重构

强烈建议技术负责人和核心开发者深入阅读此 PR，它展示了通过职责反转和接口抽象进行大型重构的最佳实践。重点关注： - `RoutedExperts` 如何从原 `FusedMoE` 剥离并独立管理权重。 - `MoERunnerInterface` 定义的契约如何实现前向逻辑与权重管理的解耦。 - 权重加载重映射的实现（`weight_utils.py` 中的新函数）。 - 讨论中关于未来提升 `MoERunner` 层级的建议。

新增在线 FP8 per-channel 量化方法

值得精读，展示了在线量化框架的扩展方式，包括量化键（QuantKey）、调度表注册、MoE 集成以及测试策略。关注 MarlinFP8 兼容性检查和 ROCm 缺失问题。

基准测试自动对齐 tokenizer 差异

**值得精读**：PR 展示了一个优雅的“即插即用”方案：零侵入、零配置、自动感知并修复，代码简洁（约 80 行）。其设计思路（探测 + 告警 + 全量修复）和并发控制方式可作为类似问题的参考。特别适合需要长时间运行 benchmark 并比较不同版本/模型的团队。

合并多模态入口测试文件并统一资源管理

值得快速阅读。该 PR 展示了测试目录布局规范化的实践：通过 `conftest.py` 共享常量和按功能域组织测试文件，对后续多模态测试扩展具有参考价值。但由于无核心逻辑变动，不强制深度审查。