vllm-project/vllm

为 gfx950 新增 AITER FP8 MLA prefill 精度测试

值得精读。该 PR 展示了一种轻量级 kernel 精度测试模式：用 `object.__new__` 绕过 `__init__`、以 `SimpleNamespace` 代替 dataclass，在无需初始化完整模型的前提下驱动真实的 metadata builder 与 impl 入口，避免测试与实现脱节。建议跟进 reviewer 的两个 follow-up：确认 device 字符串语义、对容差做数值验证；同时可参考 `tests/v1/attention/test_sparse_mla_backends.py` 等近期 MLA 测试的演进，评估是否可以把类似模式推广到更多 ROCm 内核路径。

GPU 同步检查改线程本地化，修复误报与抑制失效

值得精读。该 PR 是调试/诊断工具链的一次高质量重构：展示了如何在进程全局 API（`torch.cuda.set_sync_debug_mode`）之上用 `ContextVar` + `warnings` 钩子重建线程/任务级语义，如何处理 pytest 对全局 warning 钩子的干扰，如何用引用计数管理嵌套的全局模式，以及如何通过 import 期缓存和共享 `nullcontext` 把禁用路径开销降到约 110ns。对需要在并发环境中做全局诊断开关的开发者尤其有参考价值。

消灭每 forward 非必要 GPU-CPU 同步，跨 13 文件性能优化

值得精读。这是一份高质量的“症状清单 + 修法模板”：用 `VLLM_GPU_SYNC_CHECK=error` 系统性枚举每 forward 的隐式同步，再按“静态数据 per-device 缓存、页锁定非阻塞拷贝、纯标量用 clamp、索引用 index_fill_”四类手法逐个消除。对 vLLM 贡献者而言，`async_tensor_h2d` 的使用契约（页锁定、当前 stream 消费）与 CPU 目标回退是必须掌握的两个细节；对使用者而言，收益多为微秒级延迟改进，升级风险低。建议与 PR #51455 一起阅读，理解同步检查工具本身的演进。

修复 V2 warmup 未预留推测解码 lookahead 块

建议 MRV2 和 speculative decoding 相关开发者精读，尤其关注 `_reserved_block_count` 的注释和对照测试；该 PR 体现了「单一数据源 + 与真实 allocator 对拍」的测试思路，值得在类似的资源预留类逻辑中复用。

消除稀疏 MLA 索引重映射原子竞争，kernel 提速最高 3.18x

值得精读。这是一次教科书式的 kernel 竞争消除：先定位“计数是 tile 间唯一通信原因”，再用布局重构（单 program 独占整行）替代原子操作，并配套 bit-exact 随机化验证与幂次边界测试。核心设计决策（`_remap_tiling` 的幂次守卫、`SINGLE_TILE` 编译期分支、`torch.empty` 替代 `torch.zeros`）都可直接借鉴。建议关注后续 AsariAI 与 vLLM 在稀疏 MLA 上的进一步协作。

修复 Inkling 无思考块时文本后接工具调用解析失败

值得精读：变更虽小，但清楚展示了共享 parser engine 中 phase gating 的设计约束，以及 maintainer 如何通过 review 把 PR 收窄到单一 bug。关注 `inkling_config()` 的六条 transition 与 `test_visible_text_then_tool_streaming` 的断言方式。后续处理 #50528 或重构 DelegatingParser 时可复用此测试模式。

修复 Inkling 工具启用时块结束 token 泄漏进 content

值得精读。核心设计决策是：语义事件（`TOOL_CALL_START` / `TOOL_CALL_END`）不能作为词法工具区域的边界依据，应改由状态转移结构推导；同时 `transition is None` 分支也要同步清理转发状态。这对任何使用共享 parser engine 新增 grammar 的开发者都有直接借鉴意义，也建议后续为嵌套/多 wrapper 工具区域补充更细粒度的测试。

修复混合模型 truncate 断言崩溃，仅 Mamba 组放宽

值得精读。核心看点是“谁必须覆盖端点 vs 谁可以被外部命中共担”的建模，以及用 spec 类型特判而非 blanket clamp 来保留失败响亮度；配套测试的双向发散 × 有无外部命中枚举是很好的调度边界测试范式。后续维护者应关注 PR#50630 的能力标志设计，考虑用声明式方式替代 `isinstance(MambaSpec)` 硬编码。