执行摘要

• 一句话：修复 CUDA Graph 输入缓冲区注册在非 CUDA 设备上的兼容性问题
• 推荐动作：本 PR 作为快速修复紧急 CI 故障是可接受的，但长期建议采纳 review 中的建议，使用更通用的设备检查以覆盖更多平台。

功能与动机

PR #27407 引入的 eager input-buffer registry 功能与 CUDA Graph 相关，但在非 CUDA 设备上执行时导致 Xeon CPU CI 失败。PR body 引用 Xeon CI failure 链接，明确指出该功能与 Xeon CPU 不兼容。

实现拆解

1. 在 model_runner.py 的 forward_decode、forward_extend 和 forward_idle 三个方法中，将原有的 if not self.server_args.enable_pdmux: 条件改为 if not self.server_args.enable_pdmux and self.device == "cuda":，使 _eager_fb_view 仅在 CUDA 设备上被调用。
2. 该修改共涉及 3 处位置的简单条件扩展，无新增依赖或配置变更。

关键文件：

• python/sglang/srt/model_executor/model_runner.py（模块 模型执行器；类别 source；类型 core-logic；符号 forward_decode, forward_extend, forward_idle）: 核心变更文件，修改了 forward_decode、forward_extend 和 forward_idle 三个方法的设备检查条件，确保 eager input-buffer view 仅在 CUDA 设备上创建。

关键符号：forward_decode, forward_extend, forward_idle

评论区精华

Gemini Code Assist 机器人指出使用 self.device == 'cuda' 过于严格，会禁用支持 CUDA Graph 的其他平台（如 musa 或 out-of-tree 平台），建议采用更通用的条件：self.device in ["cuda", "musa"] or (current_platform.is_out_of_tree() and current_platform.support_cuda_graph())。但该评论未得到作者回复，最终合并的代码仍采用简单的 == 'cuda' 检查。

• 设备检查过于严格 (design): 作者未采纳建议，最终合并的代码仍使用简单的 == 'cuda' 检查。

风险与影响

• 风险：当前实现将 eager input-buffer registry 限制在 device == "cuda"，可能排除其他支持 CUDA Graph 的平台（如 musa），导致这些平台无法享受性能优化。review 中已指出此风险，但未在本次修复中解决。
• 影响：影响范围小：仅修改一个文件的 3 行条件，对 CUDA 用户无影响，解决了非 CUDA 设备（如 Xeon CPU）上的 CI 失败问题。对其他支持 CUDA Graph 的平台（如 musa）可能产生性能退化。
• 风险标记：跨平台兼容性未完善处理, review 建议未采纳

关联脉络

• PR #27407 Introduce eager input-buffer registry for CUDA graphs: 本 PR 修复了 #27407 引入的与非 CUDA 设备的兼容性问题。