vllm-project/vllm

将FP4/W4A8 CUTLASS内核迁移到torch stable ABI，以提升ABI兼容性和系统可维护性。

建议技术管理者和工程师精读此PR，重点关注设计决策如stable ABI的集成模式、条件编译策略以及out_variant标签的处理方式。代码变更展示了如何优雅地迁移高性能内核到新ABI框架，对于涉及量化或CUTLASS集成的项目具有参考价值。

添加XPU平台的W4A16 Auto-round量化支持，扩展Intel GPU上的量化推理能力。

建议工程师阅读此PR以了解XPU量化支持的设计决策，特别是权重重新打包逻辑和量化配置处理。关注INCXPULinearMethod的实现细节和review中的正确性讨论，这对理解vLLM量化框架的扩展方式有价值。

修复FusedMoE权重加载时隐藏维度填充导致的张量形状不匹配错误。

该PR值得精读，特别关注`_get_hidden_dim`方法如何优雅处理转置和3D张量布局，以及review中关于BitsAndBytes路径的权衡决策。对于涉及MoE或权重加载的开发者，可从中学习如何安全处理张量尺寸不匹配问题。

修复 PaddleOCR-VL 图像处理器在 Transformers v4/v5 中 max_pixels 访问差异的 bug。

此 PR 是一个小修复，不值得深度阅读，但可以作为跨版本兼容性处理的示例。建议工程师在类似场景中关注 trust_remote_code 作为版本区分的设计决策，并考虑添加测试以覆盖不同 Transformers 版本路径。

修复Mamba2 SSD内核的数值溢出问题，通过钳制dA_cumsum差异防止Inf。

建议精读此PR，了解浮点数值稳定性的处理方式，以及如何对齐上游修复。关注tl.minimum的引入对性能的可能影响，并参考相关讨论以改进类似内核。

修复异步speculative decoding中备份token计算错误和Mamba hidden states损坏问题。

建议技术管理者和工程师精读此PR，特别是关注async spec decoding与Mamba models集成时的数据同步和备份token计算设计。值得学习的点包括如何正确处理异步拷贝和索引映射以避免状态损坏。

新增NixlConnector兼容性矩阵文档，澄清分散预填充功能支持。

对于使用NixlConnector进行分散预填充的工程师，建议参考该兼容性矩阵以了解支持的功能；无需精读代码变更，但需注意文档的时效性。

清理MXFP8在线量化的死代码，优化层状重加载警告逻辑以减少日志噪声。

对于关注量化实现或层状加载机制的工程师，此PR值得一读以了解代码清理和系统依赖；否则，可视为常规维护。