A high-throughput and memory-efficient inference and serving engine for LLMs
MXFP4 W4A4线性层支持，集成FlashInfer/Marlin内核
值得精读此PR。重点可关注`MxFp4LinearKernel`抽象类设计和`init_mxfp4_linear_kernel`工厂函数的多后端选择模式，以及如何通过环境变量`VLLM_MXFP4_USE_MARLIN`覆盖内核选择。compressed-tensors方案的重构方式（从直接调用Marlin到委托内核）也为其他量化格式统一提供了参考。此外，swizzle reshape的讨论展示了GPU编程中数据布局对齐的常见陷阱。
原始 PR · 作者 jikunshang · 合并时间 2026-05-12 19:47
XPU 内核依赖升级至 v0.1.8
无需特别关注。该 PR 是一次常规的依赖版本升级，变更简单直接，已通过审批。建议在合并后观察 XPU 相关 CI 测试是否通过。
修复 XPU 采样器随机数生成器状态不同步问题
**建议精读**：该 PR 展示了在异构计算中同步自定义内核与框架随机数生成器状态的常见模式，对理解 PyTorch RNG 状态管理有参考价值。但实现简单，无需深度分析。
修复文档中 llm-d 链接错误
该 PR 属于典型的 typo 修复，无需深入阅读，但体现了良好的文档维护习惯。
修复 starcoder2-3b 测试 flaky 问题
值得精读。这是一个典型的因浮点精度差异导致的测试 flaky 修复方案：通过调整输入 prompt 使模型输出更稳定，而非放宽测试断言。体现了对问题根源的跟踪和分析。
原始 PR · 作者 zhenwei-intel · 合并时间 2026-05-12 18:03
修复 XPU 测试因全局 random 状态导致的 flaky 问题
此类测试可重复性 bugfix 值得精读，作为团队编写确定性测试的范例。
调整发布流水线顺序，构建完成后统一发布
该 PR 改动安全且必要，建议合并。后续可单独处理 gemini-code-assist 提出的 nightlty 条件过滤建议，进一步提升 nightly 自动化程度。
最后3个B200任务迁移至b200-k8s队列
该 PR 为纯 CI 基础设施变更，生产代码无改动，重要性较低，无需精读。但建议关注 review 中提到的 `source_file_dependencies` 缺失问题，应在后续 PR 中补全，避免回归检测盲区。同时，DeepSeek MTP 测试在 Blackwell 上的持续失败需要进一步调查，可能需提交单独 bugfix 或彻底禁用该测试。
参与讨论