vllm-project/vllm

解除 SM90 GPU 上 FlashAttention 4 对 head dim 512 和 paged KV 的限制，提升大模型性能。

建议技术管理者和工程师精读此 PR，特别是 flash_attn.py 中的变更，以理解如何通过版本控制和硬件检测来优化注意力后端选择。设计决策值得关注，如动态升级 FA4 和条件性支持 head size，可用于类似场景。

为 DeepSeek-V3.2 设计 persistent TopK 调度器，统一内核并动态分发路径以提升长序列性能。

建议技术管理者和工程师精读此 PR，重点关注 persistent scheduler 的设计思路、动态路径选择策略以及 CUDAGraph 安全性的实现方式。对于内核开发者，可借鉴其统一内核与动态分发的优化模式。

添加GPU worker的NUMA绑定支持，优化多socket系统性能。

建议技术管理者和工程师精读此PR，关注NUMA绑定的设计决策，如自动检测与手动覆盖的平衡、平台兼容性处理（如Grace Blackwell支持）、以及风险缓解措施（如shell注入检查）。对于部署在多socket环境的系统，此功能值得评估以优化性能。

重构 OffloadingConnectorScheduler，引入 OffloadKey 支持多组 KV 缓存卸载跟踪。

建议：此 PR 值得精读，特别是 `RequestOffloadState` 的状态管理设计和 `OffloadKey` 的设计权衡（GC 开销 vs. 可读性）。关注接口变化如何为多组支持做准备，并注意单组断言在代码中的位置。

修复Gemma4流式工具调用中布尔/数值跨token分割导致的类型损坏

该PR值得精读，特别是_parse_gemma4_args和_parse_gemma4_array中partial参数的设计，展示了如何处理流式解析中的不完整输入以避免类型损坏。对于从事工具解析或流式处理的工程师，这是一个实用的模式。

启用ROCm上的fused SiLU+Mul块量化内核，支持AMD GPU。

对于从事ROCm支持、量化优化或内核开发的工程师，此PR值得精读，重点关注跨平台兼容性处理、包含路径调整策略以及测试平台无关化的设计决策。

为split_module添加tuple_return参数，统一子图输出格式以稳定编译缓存键。

该PR值得精读，特别是对于关注vLLM编译系统演进和PyTorch版本兼容性的工程师。虽然变更简单，但它揭示了编译缓存键稳定性的重要设计考量，以及如何通过统一输出格式来避免后续优化中的问题。建议关注split_graph函数的实现细节和版本条件逻辑。

为ROCm构建修复Triton警告并更新AITER版本，提升AMD平台稳定性。

该PR值得ROCm平台开发者或基础设施维护者精读，重点关注Dockerfile中cherry-pick操作的实现和CMake警告抑制的设计决策。对于一般开发者，可快速浏览以了解AMD平台构建的更新。