vllm-project/vllm

FP8 ASM 预填充加速 ROCm gfx950 MLA 预填充

值得精读，特别是如何设计自动检测与优雅回退、以及在元数据构建阶段预计算以避免 forward 中同步的技巧，对编写高性能 attention 后端有参考价值。

将 IR op 优先级和 torch wrap 设置移至 Worker 初始化时一次性完成

值得精读。展示了如何识别和消除运行时重复配置，是性能优化的典型模式。设计上新增 `set_default` 方法分离初始化与运行时逻辑，对类似问题有参考价值。

修复 MLA indexer 中 DeepGEMM context_lens 非连续问题

该 PR 值得精读，展示了在处理 CUDA graph 兼容性时如何避免动态内存分配的设计模式：通过预分配 1D 平坦缓冲区并在运行时用 view 重塑，而非调用 `.contiguous()`。同样的思路可应用于其他需要为外部 kernel 提供连续 tensor 的场合。

优化 MLA 注意力 _v_up_proj 的 bmm 效率

建议合并。该 PR 是一个清晰的性能微优化与代码清理，逻辑正确且风险极低。值得关注的是如何利用 `torch.bmm` 的 `out` 视图来避免额外复制，类似技巧可用于其他类似场景。

修复 KV Connector pre_forward 调用顺序

值得快速合并。这是 Model Runner V2 迁移的明确 bugfix，代码量小且已通过测试验证。

扩展 OAI Triton MoE ROCm 支持至 RDNA4

值得精读：本 PR 展示了在跨平台代码中处理设备功能检测的简洁方法，避免了 capability 元组因供应商实现不同而产生的别名问题。关注点：如何通过字符串匹配（`on_gfx1x`）避免硬编码 capability 数字，以及如何通过集中化辅助函数消除重复。

IPC权重同步优化：多GPU支持与分块打包传输

### 建议 该 PR 涉及权重传输核心路径的重要改造，值得 RLHF 开发者精读。重点关注：`packed_tensor.py` 的分块设计、`ipc_engine.py` 的多 GPU 全收集实现、以及 API 变更对下游的影响。建议后续 PR 跟进修复超大张量边界问题，并考虑增加正式 HTTP 分块端点。

修复 DFlash 与 FP8 KV-Cache 的兼容性崩溃

值得精读，展示了推测解码与 KV-Cache 量化组合时常见的配置传递遗漏问题，可作为类似集成场景的参考。