vllm-project/vllm

融合概率性拒绝采样内核，优化内存分配并消除softmax，提升推测解码性能。

建议核心工程师精读`probabilistic_rejection_sampler_utils.py`中的Triton内核实现，关注`_compute_block_max_and_sumexp`和`_probabilistic_rejection_kernel`的设计，以学习内核融合和数值稳定性优化技巧；同时，查看测试文件中的卡方检验方法，了解如何验证采样分布正确性。

新增 XPU 后端对 MXFP8 量化的支持，为 Intel GPU 提供 FP8 量化路径。

该 PR 值得精读，特别是关注量化操作的平台调度设计和 fake 实现的兼容性修复。对从事跨平台量化开发或后端扩展的工程师有参考价值，可学习自定义操作集成和 review 中的设计权衡。

移除 V0 遗留的 accept_output_buffer 标志，统一 V1 注意力操作输出缓冲区处理。

建议精读此 PR，因为它展示了从 V0 到 V1 的弃用模式和输出缓冲区标准化设计。重点关注 `attention.py` 中的逻辑简化，以及 review 讨论中关于代码集中化的技术洞察。

修复量化KV缓存类型下提取隐藏状态模型崩溃问题。

该PR值得快速浏览，关注点：1. 使用dataclasses.replace处理不可变配置的设计模式。2. is_quantized_kv_cache工具函数的应用场景。3. 理解隐藏状态缓存与KV缓存数据类型的分离设计。

修复非流式Responses API中工具调用解析器缺少tools参数的问题。

该PR值得快速浏览以理解工具调用解析器参数传递的修复机制。重点关注_WrappedParser构造函数的设计决策：作者选择明确的参数列表而非可变参数，体现了对API清晰性的偏好。对于负责Responses API或工具调用功能的工程师，需要确保后续相关代码遵循相同的参数传递模式。

修复AMD仿真OCP MXFP4量化时权重创建错误，解决测试失败。

建议量化或ROCm相关工程师阅读此PR，关注`process_weights_after_loading`方法的逻辑调整，了解仿真模式下权重处理的正确实践。

修复 TritonMLA 后端中 CUDA 硬编码，支持 XPU 平台运行 DeepSeek-V2-Lite 模型。

该 PR 变更简洁，但涉及核心注意力后端和 MOE 层的平台兼容性，建议关注 `current_platform` 抽象的使用模式，可作为类似平台移植任务的参考。对于 XPU 平台开发者，值得精读以理解后端判断逻辑的演进。

修复 Marlin NVFP4 量化重缩放逻辑，避免因极小尺度值导致的断言失败。

该 PR 值得精读，尤其是量化模块的开发者。关注尺度因子计算逻辑从基于最小值到基于最大值的转变，以及钳位处理的设计决策，这反映了对量化数值稳定性的权衡。