vllm-project/vllm

修复 Quark FP8 权重 scale 标签错误以启用 AITER 预洗牌 GEMM

建议精读此 PR，尤其是讨论中关于 vLLM 内部权重 scale 标签不一致的深入分析。该修复展示了正确的方案：当框架内部表示不统一时，优先在源头改正（采用压缩张量规范），而不是在消费端做兼容 hack。

重构 INC 量化模块为 scheme-based 包结构

值得精读。重点关注 scheme 接口设计如何支持未来新量化类型、config_parser 的 regex 匹配实现、ARK 后端的可用性检测与回退策略、以及平台差异下 MoE 方法的处理。

修复 XPU CI 上 lm-eval 版本不兼容导致的 ImportError

该 PR 是常规的 CI 维护变更，不值得精读。关注点：`requirements/test/xpu.in` 中使用 `>=` 而非固定版本，允许小版本升级，在 CI 中通过显式安装确保最低版本。

移除重复的 ViT CUDA Graph 测试用例

可直接合并。该 PR 是纯粹的 CI 优化，逻辑清晰，适合快速批准。

为 Kimi-VL 添加 ViT 全 CUDA 图支持

值得精读。重点阅读 `moonvit.py` 中 `prepare_encoder_metadata` 的设计（如何将 grid 相关计算外提）以及 `kimi_vl.py` 中协议方法的实现，可作为其他视觉模型启用 ViT CUDA 图的参考蓝本。

MiniMax-M3 在 MI300X 上启用 fp8_per_channel 量化，提升吞吐 28%

建议合入。该 PR 解决了 MiniMax-M3 在 ROCm 上的性能瓶颈，改动量小且经过充分验证。后续应关注长上下文和更多任务的精度表现。设计上通过参数传递链的轻微调整即可修复精度 bug 并启用新量化，值得参考。

新增 per-request selective offload 文档

值得阅读，尤其是使用 KV offloading 的用户，可了解如何精细控制 per-request offload 行为。

修复 ROCm GFX942 上稀疏 MLA 精度退化

该 PR 是关键的 bugfix，值得精读以理解 GPU 内存对齐问题如何影响模型精度。建议关注后续性能优化，重新考虑是否以及如何在保障精度的前提下恢复 C++ 内核。