vllm-project/vllm

修正 AITER AR+RMS e2e 融合计数以覆盖最终 norm

不值得精读，改动机械（2 行测试期望值）。值得注意的设计点：功能 PR 必须同步所有相关测试期望；e2e 期望值与单元测试需配套维护；ROCm 特有路径的覆盖依赖平台条件断言，修改时需谨慎。

修复 Mamba align 模式 chunk 越界导致的 prefix cache 投毒

值得精读。核心看点有三：一是把「可缓存边界」与「prefill 终点」分离的语义修正，这是对不变量 `slot p == (p + 1) * block_size` 的严格化；二是用运行时审计钩子直接测量毒化条目而不是依赖准确率差，定位方式值得借鉴；三是用真实 KVCacheManager + oracle 的 CPU 级测试复现 GPU 并发场景的测试设计，可作为后续调度器回归测试的模板。

权重替换保留自定义属性，清理量化后端重复打标

值得精读。replace_parameter 是权重加载的核心工具，本 PR 定义了其长期的属性继承语义与 weight_loader 排除规则，是任何量化后端新增时必须了解的契约；review 中关于“预处理函数只拥有 new data 上下文”与 QERL layerwise reloading 的讨论，对设计权重格式转换与 RL 权重重载方案有参考价值。

MLA prefill 改为按请求调度 chunk，异构 batch 延迟大幅下降

值得精读。重点关注 `plan_mla_context_chunks` 的按请求打包与对齐拆分二分搜索（`aligned_split_len`）、`init_mla_context_partial`/`accumulate_mla_context_chunk` 的 partial 生命周期管理，以及如何通过数据结构变更消除额外的 mask kernel。对 MLA、attention 调度和 kernel 合并设计感兴趣的工程师会从中获得有价值的模式。

Transformers 后端输入嵌入处理全面泛化，新增 replace_embedding_class

值得精读（尤其是 `replace_embedding_class` 的实现），它展示了用 MRO 重排和 `__class__` 赋值优雅处理第三方子类替换的设计模式，且与 LoRA、量化、TP 的交互均有考虑。建议关注后续真实模型端到端验证是否补全。

fullgraph 正确性测试改为 1-GPU 专用，删除多 GPU 冗余

作为 CI 流程修正值得快速浏览，不必精读。值得借鉴的决策是遇到测试在多套件中的偶发不稳定时，先定位冗余覆盖与共享断言的不兼容，再选择移除冗余而非放宽断言；同时需注意删除 device_count 检查后测试与 1-GPU 套件的隐式绑定。

优化 attn_res 内核延迟，微基准最高提速约 27%

值得精读。它展示了 CUDA 内核延迟优化的经典组合拳：编译期参数化 + 向量化访存 + 循环展开 + 正确的 memory 语义，且每步都有可量化的微基准验证，适合作为内核性能优化的参考范式。建议关注 mbarrier memory clobber 的并发正确性解释与模板分派的扩展性。

FA3 迁移 torch stable ABI 并收紧 CI 检查

值得关注的是 ABI 迁移策略：通过外部项目 pin 提交并同步收紧 CI 检查，是一种低成本的渐进式迁移方式。建议阅读 `.buildkite/check-torch-abi.py` 的检查逻辑和 `cmake/external_projects/vllm_flash_attn.cmake` 的依赖管理方式，可作为后续其他扩展库迁移的参考。