Prhub

#42710 [MRV2][XPU] add Model Runner V2 log

原始 PR 作者 zhenwei-intel 合并时间 2026-05-17 12:15 文件变更 1 提交数 1 评论 0 代码增减 +3 / -0

执行摘要

XPU Worker 新增 V2 Model Runner 日志

PR body 中提及 'add Model Runner V2 log in XPU worker',目的是在 XPU (Intel GPU) 后端中增加日志,以便在运行时明确知晓是否启用了 V2 Model Runner,方便开发和调试。

值得合并。变更简洁、无风险,为 XPU 后端调试提供便利。可作为 V2 Model Runner 迁移状态的一个轻量级 markers。

讨论亮点

无实质 review 讨论。xinyu-intel 和 jikunshang 均直接批准,仅 bot 自动评论无进一步反馈。

实现拆解

vllm/v1/worker/xpu_worker.pyinit_device 方法中,于 oneCCL 预热之后、设置随机种子之前,插入条件判断:

  1. torch.distributed.all_reduce 之后、set_random_seed 之前,添加 if self.use_v2_model_runner: logger.info_once("Using V2 Model Runner")
  2. 使用 info_once 确保该日志只在进程生命周期内输出一次,避免反复打印。

变更仅涉及 3 行新增,无删除。

文件 模块 状态 重要度
vllm/v1/worker/xpu_worker.py XPU Worker modified 4.15

关键源码片段

vllm/v1/worker/xpu_worker.py core-logic

唯一的变更文件,新增一行日志记录 V2 Model Runner 启用状态。

# vllm/v1/worker/xpu_worker.py ( 片段 )
​
        # 全局 all_reduce 用于 overall oneccl warm up
        if torch.distributed.is_xccl_available():
            torch.distributed.all_reduce(torch.zeros(1).xpu())
​
        # 新增日志:当使用 V2 Model Runner 时输出一次
        if self.use_v2_model_runner:
            logger.info_once("Using V2 Model Runner")
​
        # 设置随机种子
        set_random_seed(self.model_config.seed)

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险极低。新增的日志语句不会影响任何控制流或性能,仅在配置使用 V2 Model Runner 时多打印一行信息,且使用 info_once 限制为单次输出。不会引入回归或安全风险。

影响范围极小:仅影响 XPU (Intel GPU) 后端的调试日志输出。对系统行为、兼容性、性能均无影响。开发者可借此快速确认模型运行器版本。

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论