执行摘要
本次PR修复了Whisper模型因未覆盖#22038引入的延迟设备转移机制而导致的设备不匹配错误。通过在forward方法中显式将输入张量移动到模型权重所在设备，解决了CUDA图捕获时出现的"Expected all tensors to be on the same device"运行时异常。这是一个针对特定模型的关键bugfix，影响范围有限但解决了稳定性问题。
功能与动机
问题根源：Whisper模型未覆盖#22038引入的延迟设备转移机制，导致输入特征input_features和位置IDposition_ids可能停留在CPU，而模型权重已在GPU上。
具体表现：执行手动测试test/manual/test_whisper_cuda_graph.py时出现运行时错误：
RuntimeError: Expected all tensors to be on the same device, but got weight is on cuda:0, different from other tensors on cpu
修复目标：确保在卷积操作self.conv1(input_features)执行前，所有张量都在同一设备上。
实现拆解
仅修改python/sglang/srt/models/whisper.py文件的forward方法，在原有逻辑前插入设备同步代码：
device = self.conv1.weight.device
input_features = input_features.to(device=device)
position_ids = position_ids.to(device=device)
关键设计点：
- 使用
self.conv1.weight.device作为目标设备参考点
- 同时移动
input_features和position_ids两个张量
- 在第一个卷积操作前完成设备转移
评论区精华
review中只有一条实质性技术讨论：
mickqian: "nit: device=next(self()).device is more robust"
讨论要点：
- mickqian建议使用迭代器方式获取设备，认为比直接引用特定层权重更稳健
- 作者最终未采纳此建议，保持原方案
- 可能原因：conv1作为模型第一个卷积层，其设备位置具有代表性，且代码更直观
风险与影响
技术风险：
- 性能开销：增加两次
to()调用，但在CUDA图场景下这是必要成本
- 覆盖不全：如果模型其他部分也有类似设备依赖，可能遗漏
- 测试缺失：缺少针对此修复的单元测试
影响评估：
- 用户影响：仅影响使用Whisper模型且启用CUDA图的用户，解决崩溃问题
- 系统影响：无架构或接口变更，不影响其他模型
- 团队影响：提醒需要检查其他模型是否也存在#22038覆盖不全问题
关联脉络
与历史PR的关联：
- #22038：引入了延迟设备转移机制，是本bug的根本原因
- #21817：类似的多模态设备同步修复，解决warmup图像初始化并发问题
- #22266：NPU上Qwen3.5视频处理器的设备相关修复
演进趋势：
- 随着#22038机制的推广，需要确保所有模型都正确覆盖设备转移逻辑
- 多模态模型（Whisper、扩散模型等）在设备同步方面有特殊需求
- CI标签
run-ci和multimodal频繁出现，显示团队对多模态测试的重视
参与讨论