vllm-project/vllm

修复Mamba2 SSD内核的数值溢出问题，通过钳制dA_cumsum差异防止Inf。

建议精读此PR，了解浮点数值稳定性的处理方式，以及如何对齐上游修复。关注tl.minimum的引入对性能的可能影响，并参考相关讨论以改进类似内核。

修复异步speculative decoding中备份token计算错误和Mamba hidden states损坏问题。

建议技术管理者和工程师精读此PR，特别是关注async spec decoding与Mamba models集成时的数据同步和备份token计算设计。值得学习的点包括如何正确处理异步拷贝和索引映射以避免状态损坏。

新增NixlConnector兼容性矩阵文档，澄清分散预填充功能支持。

对于使用NixlConnector进行分散预填充的工程师，建议参考该兼容性矩阵以了解支持的功能；无需精读代码变更，但需注意文档的时效性。

清理MXFP8在线量化的死代码，优化层状重加载警告逻辑以减少日志噪声。

对于关注量化实现或层状加载机制的工程师，此PR值得一读以了解代码清理和系统依赖；否则，可视为常规维护。

将CUDA特定设备计数函数统一为平台抽象接口，以支持XPU等多加速器。

建议技术管理者和工程师精读此PR，特别关注vllm/platforms/cuda.py和vllm/platforms/rocm.py中的设备计数实现，以理解平台抽象的设计模式。同时，review讨论中的设计权衡（如避免torch.accelerator依赖）值得学习，可作为跨硬件兼容性改进的参考案例。

为Intel XPU CI runners添加docker pull锁，避免并发拉取导致的速率限制问题。

建议技术管理者和工程师精读此PR，关注锁定机制的设计决策和潜在陷阱，尤其是如何处理并发和超时场景。学习CI脚本中锁使用的最佳实践，以应用于其他类似场景。

通过标记测试为预期失败来跳过不稳定的Eagle DP测试以避免CI失败。

对于技术管理者，此PR是临时措施，建议关注后续解决根本原因的PR。对于工程师，如果负责Eagle或speculative decoding相关模块，值得注意此测试被跳过，以避免依赖不稳定的测试，并可参考discussion中的设计权衡。

修复 MLA 注意力在使用 inductor 图分区时输出乱码的问题。

建议快速浏览此 PR，重点关注 unified_mla_kv_cache_update 函数的改动，以理解如何确保 torch.compile 正确捕获操作。对于处理 KV cache 或注意力机制的开发者有参考价值。