vllm-project/vllm

重构 Transformers 后端注意力发现与附加机制，解决模块树、缩放与索引的三个潜在 bug。

这是一个高价值的架构改进 PR，解决了 Transformers 后端的多个根本性问题。建议：1. **精读核心逻辑**：重点关注 `AttentionFuser` 的实现、融合器列表的生成与应用逻辑，以及 `create_attention_instances` 中注意力附加和错误检查的部分。理解这些是理解整个变更的关键。2. **验证测试覆盖**：检查新增的测试用例（`test_attention_dispatch_is_matched` 等）是否覆盖了关键场景，如 MLA、非标准缩放（Gemma, DeepSeek, OPT）、层索引自定义（LongCat Flash）。3. **关注后续依赖**：此 PR 改变了融合器接口，需要确保所有调用点都已更新。4. **留意关联 PR**：注意与 PR#52156（注意力 sinks）的重叠和解决方案的差异。本 PR 通过附加而非 `nn.ModuleList` 注册来解决模块树可见性，同时带来了额外好处。

将 ROCk release 镜像构建超时时间从 60 分钟增加至 180 分钟，以解决冷缓存构建导致的 CI 超时问题。

这是一个低风险、高必要性的 CI 配置修复。对于关心 CI 稳定性和 ROCm 支持的工程师，建议快速浏览以了解问题背景和解决方案。对于关注 vLLM 发布流程或 AMD ROCm 集成的管理者，此 PR 证明了团队对 CI 基础设施问题的快速响应能力。

为音频处理添加 TorchCodec 后端，实现可配置的多后端选择机制。

该 PR 质量较高，是一个值得精读的特性引入。核心设计决策清晰：通过显式参数和自动回退机制，为用户提供了灵活性和默认的最优选择（TorchCodec）。实现细节考虑周全，特别是对各种异常情况的处理和全面的单元测试。评审讨论中关于架构演进（使用 TorchCodec 作为唯一音频后端）的思考很有价值，揭示了未来可能的优化方向。建议关注其后端分发模式和 fallback 机制的实现，可以作为类似功能开发的参考。

为已移除引导解码字段添加警告，修复静默忽略问题。

该 PR 值得精读。虽然代码变更很小，但它解决了一个影响用户生产环境的实际问题，其设计决策（仅警告、使用 `warning_once`、复用基类验证器）简洁且有效。推荐关注的重点是：`warning_once` 如何与 Pydantic 验证器协作以避免日志洪泛，以及维护者关于测试必要性的判断逻辑。

限制 GitHub Actions 仅在主仓库运行，解决 fork 仓库不必要的资源消耗与计费问题。

这是一个重要且高效的 CI 优化 PR。它解决了一个影响面广、成本高的实际问题，实现方式简洁、一致且低风险。建议所有开源项目维护者关注此模式，防止 Fork 资源滥用。PR 本身无需精读，但其解决的方案值得学习。

放宽 MoE 内核资格检查，允许 FP8 块缩放模型使用 SwiGLU clamp，大幅提升性能。

该 PR 是一个高质量的 bugfix，值得精读。核心设计决策在于精确对齐上游 FlashInfer 的 API 契约变更，同时通过额外的激活函数检查确保了正确性。性能数据提供了强有力的合入理由。对于关注 MoE 内核、量化或 vLLM 性能优化的工程师，本 PR 中关于内核资格谓词的逻辑和参数化测试模式是很好的参考。

修复离线 LLM.chat() 为多模态模型默认添加特殊令牌导致的双重 BOS 问题。

该 PR 值得精读。它清晰地解决了一个影响多模态模型离线/在线一致性的实际 bug。核心修复简洁有效，位于一个关键的集中点 `_preprocess_chat`。最值得关注的设计决策是：1) 选择在调用入口（离线 LLM 方法）而非基础设施层（渲染器）调整行为，以对齐在线 API；2) 利用字典合并的“覆盖”语义，在提供安全默认值的同时保持灵活性。全面的测试用例（包括 mock 验证和真实模型行为比对）是 bugfix 的典范。

实现持久化 GPU 权重缓存守护进程，通过 CUDA IPC 零拷贝加载加速引擎重启。

这是一个**值得精读**的 PR。它引入了一个完整的、架构清晰的特性来解决一个关键性能问题。核心设计（守护进程 + IPC 加载器 + 指纹识别）合理，安全考虑（文件权限、peercred 验证、排他锁）到位，测试覆盖了核心路径（冷启动、热重启、一致性）。评审过程中的讨论揭示了重要的设计权衡（如指纹识别方法、双重检查的必要性）。尽管存在一些已识别的边界情况风险（如进程异常退出、支持的量化方法有限），但其核心价值和实现质量很高。建议重点关注其守护进程架构、协议设计和如何与现有量化框架集成。