vllm-project/vllm

迁移注意力与缓存内核至 torch stable ABI

此 PR 是持续 ABI 迁移的重要一环，值得核心开发者精读。重点关注 `concat_mla_q` 调度类型迁移的修复过程、头文件移动策略的讨论、以及 `quant_utils.cuh` 部分稳定性的权衡。这些模式将指导后续阶段。 普通审阅者应关注构建是否正确、测试是否覆盖以避免回归。 建议团队在后续 PR 中尽快完成 `quant_utils.cuh` 的完全迁移，并考虑为缓存操作添加更多单元测试。

跨模块移除不可达死代码与废弃配置

该 PR 是良好的常规清理，值得关注每个删除项的理由。尤其推荐注意 longcat_flash_mtp 分支被前序逻辑覆盖的设计模式，以及 fused_moe 中如何通过删除参数来消除死分支。对于代码审查者，建议验证每个删除确实无外部依赖。

跳过 decode 阶段 KV block 的 CPU 卸载

值得精读，特别是如何通过 clamp 操作实现大幅性能提升，以及 Review 过程中设计演进（默认值、命名）的决策思路。

XPU FP8 MoE 层支持 scale 转置

该 PR 修复了一个明确的 bug，改动量小且正确性经过 review 确认。值得合并，但建议后续补充针对不同 scale 维度的单元测试。

简化 encoder CUDA graph 接口，统一输入结构

值得精读。该 PR 展示了围绕“函数签名应与捕获图一致”这一核心原则进行抽象重构的过程，设计权衡清晰（分离 vs 合并 input/metadata）。对理解 vLLM 多模态 CUDA graph 机制和架构演进方向（RFC #38175）很有帮助，也揭示了如何通过接口调整支持非 GPU 后端。

新增 GLMGA 模型推理支持并改进 GLM-4.6V 视频处理

建议读者关注： - `_to_video_metadata` 的设计权衡：如何安全地筛选额外键。 - `GLM4_6VVideoBackend.compute_frames_index_to_sample` 的帧采样策略，确保与 HuggingFace 一致。 - 令牌预算计算中的潜在低估问题，可能需要后续调整。 - 自动化 review 提出的风险点虽然未完全解决，但合并表明团队已评估风险可控。

重构 DSv4 的 mHC tilelang 内核路径，移除 CustomOp 包装

值得精读，特别是如何逐步移除 CustomOp 包装、将内核文件组织到统一位置的清理模式。设计者可以借鉴这种降低抽象层、提升可读性的重构手法。

EngineCore 跨 NUMA 节点绑定 + PCT 自动绑定

建议精读此 PR，特别是 PCT 自动检测的巧妙设计（无 root 权限利用 `acpi_cppc/highest_perf` 和 CPUID 模式）以及 EngineCore 与 Worker 绑定分离的架构决策。该 PR 展示了为特殊硬件（DGX B300）进行零配置优化的良好实践。