执行摘要

• 一句话：WanVAE 解码输出就地 clamp，减少 FP32 分配
• 推荐动作：该 PR 改动简单但值得推广：类似的后处理 clamp 操作在 SGLang 其他 VAE 或生成模型中也可采用就地版本以减少显存开销。建议在编码规范中加入 '优先使用就地操作避免冗余分配' 的指引。

功能与动机

避免在 decode 阶段分配一个额外的全尺寸 FP32 输出张量，优化显存使用。PR body 明确说明 'avoid allocating a second full-size FP32 output tensor after decode'。

实现拆解

在文件 python/sglang/multimodal_gen/runtime/models/vaes/wanvae.py 的 decode 方法中，将第 1000 行的 out = torch.clamp(out, min=-1.0, max=1.0) 替换为 out.clamp_(min=-1.0, max=1.0)。由于 out 在上一行已转换为 float（out = out.float()），clamp_ 直接在原张量上修改，无需新建张量。

关键文件：

• python/sglang/multimodal_gen/runtime/models/vaes/wanvae.py（模块 扩散模型；类别 source；类型 data-contract）: 核心变更文件，WanVAE 的 decode 方法中 clamp 操作改为就地版本。

关键符号：未识别

关键源码片段

python/sglang/multimodal_gen/runtime/models/vaes/wanvae.py

核心变更文件，WanVAE 的 decode 方法中 clamp 操作改为就地版本。

# python/sglang/multimodal_gen/runtime/models/vaes/wanvae.py
# 在 decode 方法中，将 out 转换为 float 后，就地 clamp 到 [-1.0, 1.0]
# 避免分配第二个完整尺寸的 FP32 张量
out = out.float()
out.clamp_(min=-1.0, max=1.0) # 原为 out = torch.clamp(out, min=-1.0, max=1.0)
self.clear_cache()

评论区精华

无 review 讨论。

• 暂无高价值评论线程

风险与影响

• 风险：风险极低：1）clamp_ 是标准 PyTorch 就地操作，语义完全等价于 torch.clamp；2）out 在调用 clamp_ 前已通过 out.float() 保证是浮点类型且无梯度跟踪，不会影响反向传播或梯度计算；3）后续逻辑仅读取 out 值，无额外引用问题。
• 影响：影响范围极小：仅影响 WanVAE 的 decode 方法（use_feature_cache=True 路径），减少一次全尺寸张量分配，降低显存峰值，对推理吞吐和延迟有轻微正向影响。不会影响其他模型或解码路径。
• 风险标记：低风险

关联脉络

• PR #27084 [diffusion] Optimize Cosmos3 i2v latent prep: 同一作者在 diffusion 模块的近期性能优化 PR，显示持续关注显存和计算优化。
• PR #27077 [diffusion] Preserve dtype in WanVAE nearest upsample: 同样修改了 WanVAE 相关代码，关注 dtype 和显存优化。