vllm-project/vllm

修复 packed KV 清零步长，防止越界写与相邻数据污染

值得精读。重点关注两点：一是诊断方法论——异步 CUDA 错误下如何用同步检查点把“表象堆栈”收敛到真实写坏内存的环节，这一思路对排查同类 CUDA 内存损坏问题很有参考价值；二是实现上“块步长”与“清零页宽”解耦 + 虚拟块展开为独立 segment 的设计，可作为处理非均匀/非连续视图地址计算的范本。回归测试 `test_packed_segment_zeros_only_its_last_block_page` 短小但对回归覆盖非常精准。

修复模型层 A/B 系列 mypy 错误，收紧类型契约

值得精读 interfaces.py 与 adapters.py 的改法：如何用命名 Protocol 保留参数名、用 getattr 兜底避免类级可变默认值、拆分私有加载方法以消除 MRO 扫描 hack。维护者应关注 Bailing / AXK 系列 config 兼容性、supports_pp 判定回归，以及外部对 ModelForPooling.load_weights 的覆写兼容性。后续同类 mypy PR 可参考本 PR 的 review 标准：优先修复类型不一致本身，而不是用 type: ignore 掩盖。

ROCM MLA 小头数 decode 走 asm，长上下文提速 2.3×

值得精读。核心看点：1) tile-and-slice 精确 padding 的设计——依赖 MLA per-head 独立性，简单且可证明正确，对比 append-only 方案的缺陷很有教学价值；2) 架构门控 + 三态环境变量的双层内核路由设计，兼顾自动选择与用户可控；3) review 中 maeehart 连续发现两个被遗漏的 Gluon 调用点，展示了"门控函数是否覆盖所有调用点"的审查思路；4) 测试契约覆盖 1..15 全量头数与三种 env 模式，硬件端到端测试与 SDPA 参考对齐。

启动期监听前端进程，提前暴露启动失败

值得精读。该 PR 展示了"资源打包 + 启动屏障 + 哨兵监听"的进程监督模式，CoreEngineLaunch 的设计对后续扩展启动期进程管理有参考价值；同时可关注 njhill 的简化提交如何收敛了最初的实现。

修正 AITER AR+RMS e2e 融合计数以覆盖最终 norm

不值得精读，改动机械（2 行测试期望值）。值得注意的设计点：功能 PR 必须同步所有相关测试期望；e2e 期望值与单元测试需配套维护；ROCm 特有路径的覆盖依赖平台条件断言，修改时需谨慎。

修复 Mamba align 模式 chunk 越界导致的 prefix cache 投毒

值得精读。核心看点有三：一是把「可缓存边界」与「prefill 终点」分离的语义修正，这是对不变量 `slot p == (p + 1) * block_size` 的严格化；二是用运行时审计钩子直接测量毒化条目而不是依赖准确率差，定位方式值得借鉴；三是用真实 KVCacheManager + oracle 的 CPU 级测试复现 GPU 并发场景的测试设计，可作为后续调度器回归测试的模板。

权重替换保留自定义属性，清理量化后端重复打标

值得精读。replace_parameter 是权重加载的核心工具，本 PR 定义了其长期的属性继承语义与 weight_loader 排除规则，是任何量化后端新增时必须了解的契约；review 中关于“预处理函数只拥有 new data 上下文”与 QERL layerwise reloading 的讨论，对设计权重格式转换与 RL 权重重载方案有参考价值。

MLA prefill 改为按请求调度 chunk，异构 batch 延迟大幅下降

值得精读。重点关注 `plan_mla_context_chunks` 的按请求打包与对齐拆分二分搜索（`aligned_split_len`）、`init_mla_context_partial`/`accumulate_mla_context_chunk` 的 partial 生命周期管理，以及如何通过数据结构变更消除额外的 mask kernel。对 MLA、attention 调度和 kernel 合并设计感兴趣的工程师会从中获得有价值的模式。