执行摘要

• 一句话：默认禁用VAE CPU offload，降低延迟敏感场景的时延
• 推荐动作：建议精读server_args.py和gpu_worker.py的改动，学习如何通过调整默认值和去冗余检查来优化延迟敏感路径。单元测试的_from_dict_with_task_type辅助方法设计值得借鉴。本PR虽小但打磨细致，是典型的高信噪比变更。

功能与动机

VAE CPU offload对延迟敏感的服务不是好的默认选择，因为VAE模块通常比DiT和text encoder小，且其Device-to-Host和Host-to-Device转换发生在请求可见的解码路径上，会显著增加P99延迟。用户如果需要节省显存，仍可通过--vae-cpu-offload显式开启。

实现拆解

1. 默认值变更 (python/sglang/multimodal_gen/runtime/server_args.py)：将ServerArgs中vae_cpu_offload的默认值从None改为False。None原用于在_adjust_offload中根据场景自动决定是否offload，现直接固定为False。
2. 移除冗余自动设置 (server_args.py)：在_adjust_offload的三个分支（低内存、图像生成、其他）中，删除所有if self.vae_cpu_offload is None的判断和赋值语句。因为默认值已为False，不需要再覆盖。
3. 内存分析建议排序 (python/sglang/multimodal_gen/runtime/managers/gpu_worker.py)：引入模块级常量OFFLOAD_DISABLE_RECOMMENDATION_ORDER，定义推荐关闭offload的优先级顺序为('vae', 'image_encoder', 'text_encoder', 'text_encoder_2', 'transformer')。新增_format_offload_disable_suggestions方法，按照该顺序构建建议字符串，并自动去重（text_encoder和text_encoder_2共享--text-encoder-cpu-offload）。原内联逻辑被替换为调用该方法。
4. 单元测试覆盖 (python/sglang/multimodal_gen/test/unit/test_server_args.py)：新增TestOffloadDefaults测试类，使用_from_dict_with_task_type辅助方法模拟不同任务类型和显存大小。三个测试用例分别验证：视频生成默认VAE offload为False；低内存GPU（16GB）下VAE offload为False但其他offload为True；显式指定vae_cpu_offload=True时该值被保留。

关键文件：

• python/sglang/multimodal_gen/runtime/managers/gpu_worker.py（模块 GPU工作器；类别 source；类型 core-logic；符号 _format_offload_disable_suggestions, OFFLOAD_DISABLE_RECOMMENDATION_ORDER）: 引入推荐优先级常量和新方法_format_offload_disable_suggestions，重构内存分析建议逻辑，使输出从字母排序改为按实际影响排序。
• python/sglang/multimodal_gen/runtime/server_args.py（模块 服务参数；类别 source；类型 core-logic；符号 _adjust_offload）: 变更VAE offload默认值并移除所有_adjust_offload中对vae_cpu_offload的自动设置，是行为变更的核心。
• python/sglang/multimodal_gen/test/unit/test_server_args.py（模块 服务参数；类别 test；类型 test-coverage；符号 TestOffloadDefaults, _from_dict_with_task_type, test_vae_cpu_offload_defaults_false_for_video_generation, test_vae_cpu_offload_defaults_false_on_low_memory_gpu）: 新增TestOffloadDefaults类，覆盖默认行为变更和显式opt-in场景，保证回归安全。

关键符号：_format_offload_disable_suggestions, _adjust_offload, do_mem_analysis, _from_dict_with_task_type

关键源码片段

python/sglang/multimodal_gen/runtime/managers/gpu_worker.py

引入推荐优先级常量和新方法_format_offload_disable_suggestions，重构内存分析建议逻辑，使输出从字母排序改为按实际影响排序。

# 定义关闭 offload 的推荐优先级（VAE 优先，transform 最后）
OFFLOAD_DISABLE_RECOMMENDATION_ORDER = (
    "vae",
    "image_encoder",
    "text_encoder",
    "text_encoder_2",
    "transformer",
)
​
class GPUWorker:
    def do_mem_analysis(self, output_batch: OutputBatch):
        # ... 其他代码 ...
        remaining_gpu_mem_gb = (
            current_platform.get_device_total_memory() / (1024**3) - peak_reserved_gb
        )
        can_stay_resident = self.get_can_stay_resident_components(remaining_gpu_mem_gb)
        # 替换原来内联的 set + sorted 逻辑，改为按优先级顺序格式化
        suggested_args_str = self._format_offload_disable_suggestions(can_stay_resident)
        # ... 日志输出 ...
​
    def _format_offload_disable_suggestions(self, components: List[str]) -> str:
        """按优先级顺序生成建议禁用的 offload 参数列表。"""
        component_set = set(components)
        suggestions = []
        seen_args = set()
​
        for component in OFFLOAD_DISABLE_RECOMMENDATION_ORDER:
            if component not in component_set:
                continue
​
            arg = None
            # 将内部组件名映射到 CLI 参数
            if component == "vae":
                arg = "--vae-cpu-offload"
            elif component == "image_encoder":
                arg = "--image-encoder-cpu-offload"
            elif component in ("text_encoder", "text_encoder_2"):
                # text_encoder_2 与 text_encoder 共享同一参数
                arg = "--text-encoder-cpu-offload"
            elif component == "transformer":
                # transformer 有 layerwise 和 full 两种 offload 模式
                if self.server_args.dit_layerwise_offload:
                    arg = "--dit-layerwise-offload"
                elif self.server_args.dit_cpu_offload:
                    arg = "--dit-cpu-offload"
​
            if arg is not None and arg not in seen_args:
                suggestions.append(arg)
                seen_args.add(arg)
​
        return ", ".join(suggestions) if suggestions else "None"

python/sglang/multimodal_gen/runtime/server_args.py

变更VAE offload默认值并移除所有_adjust_offload中对vae_cpu_offload的自动设置，是行为变更的核心。

class ServerArgs(DisaggArgsMixin):
    # ... 其他字段 ...
    # 将默认值从 None 改为 False，即默认不 offload VAE
    vae_cpu_offload: bool | None = False
​
    def _adjust_offload(self):
        if current_platform.is_cpu():
            return
​
        if current_platform.get_device_total_memory() / BYTES_PER_GB < 30:
            # 低显存 GPU：只确保大组件（dit, text_encoder, image_encoder）offload，VAE 已默认 False 不再设置
            if self.dit_cpu_offload is None:
                self.dit_cpu_offload = True
            if self.text_encoder_cpu_offload is None:
                self.text_encoder_cpu_offload = True
            if self.image_encoder_cpu_offload is None:
                self.image_encoder_cpu_offload = True
            # VAE offload 不再自动设为 True，因为默认已是 False
        elif self.pipeline_config.task_type.is_image_gen():
            # 图像生成场景：VAE 维持默认 False，无需更改
            if self.dit_cpu_offload is None:
                self.dit_cpu_offload = True
            if self.text_encoder_cpu_offload is None:
                self.text_encoder_cpu_offload = True
            if self.image_encoder_cpu_offload is None:
                self.image_encoder_cpu_offload = False
        else:
            # 其他场景（视频 / 非图像）：同样不再设置 VAE
            if self.dit_cpu_offload is None:
                self.dit_cpu_offload = True
            if self.text_encoder_cpu_offload is None:
                self.text_encoder_cpu_offload = True
            if self.image_encoder_cpu_offload is None:
                self.image_encoder_cpu_offload = True

评论区精华

Review中，gemini-code-assist[bot]提出了两条建议，指出vae_cpu_offload默认值改为False后，_adjust_offload中剩余的if self.vae_cpu_offload is None检查变得多余，应当一并删除以简化逻辑。PR作者已在实际提交中删除了所有相关行，比建议更彻底。这两条建议状态均为已解决（代码已处理）。

• 移除冗余VAE offload检查 (design): 作者已在最终提交中删除了所有_adjust_offload中对vae_cpu_offload的检查与赋值，比建议更彻底。

风险与影响

• 风险：主要风险在于默认行为变更可能影响低显存用户的启动成功率。但测试已覆盖16GB低内存场景：vae_cpu_offload=False，同时确保dit_cpu_offload、text_encoder_cpu_offload和image_encoder_cpu_offload均为True，整体显存压力可控。用户仍可通过--vae-cpu-offload开关恢复原行为。此外，内存分析建议的排序变化仅影响do_mem_analysis日志输出，不影响实际offload状态。
• 影响：用户影响：默认启动的diffusion服务VAE不再CPU offload，延迟降低，但显存占用略有增加。对低内存GPU（<30GB）用户，系统已自动启用其他大组件的offload，VAE保留在GPU上不会造成显存溢出。显式传参的用户行为不变。系统影响：仅涉及diffusion模块的初始化路径和内存分析日志，无运行时性能变化。团队影响：简化了_adjust_offload逻辑，后续维护成本降低。
• 风险标记：默认行为变更, 低内存回归风险

关联脉络

• PR #18764 [diffusion] Add dynamic batching v0: 同为diffusion模块的性能优化PR，与本PR共同构成SGLang扩散推理的延迟优化方向。
• PR #23538 [NPU] Fix Z-Image negative-branch rotary embeddings for CFG: 修复Z-Image的VAE相关bug，与本PR的VAE offload默认变更属于同一子模块。