执行摘要

• 一句话：配置负载时声明写入配置包而非 server_args
• 推荐动作：该 PR 是更大配置重构中的一环，但自身引入的风险（尤其推测解码场景）尚未解决。建议在合并后续 PR 前优先修复机器人提出的三个 P1 问题，特别是持久化和测试适配。

功能与动机

作为栈式 PR 系列的一部分（#31814），旨在引入结构化 RuntimeContext 配置 API（通过域名空间解析配置读取；ServerArgs 变为只读记录）。该 PR 将declare_load_time_override()路由到配置包，以便迁移后的读取者能观察到负载时解析的值。

实现拆解

1. 修改 declare_load_time_override() 函数（python/sglang/srt/arg_groups/overrides.py）：
   • 将写入目标从 server_args 对象改为 context.override() 方法，通过配置包写入。
   • 移除 getattr(server_args, "override", None) 回退逻辑以及 _apply_fields() 的降级路径。
   • 保留 validate_declarations() 调用，确保声明字段在白名单内。
2. 更新文档字符串，清晰说明新语义：声明写入配置包，命名空间读取者可见，而 server_args 保持为纯净的启动记录。
3. 移除对 server_args 的直接写入，简化代码路径，消除条件分支。

关键文件：

• python/sglang/srt/arg_groups/overrides.py（模块 配置层；类别 source；类型 core-logic；符号 declare_load_time_override）: 包含核心函数 declare_load_time_override() 的修改，将写入目标从 server_args 改为 context.override()，是此 PR 的唯一变更文件。

关键符号：declare_load_time_override

关键源码片段

python/sglang/srt/arg_groups/overrides.py

包含核心函数 declare_load_time_override() 的修改，将写入目标从 server_args 改为 context.override()，是此 PR 的唯一变更文件。

def declare_load_time_override(source: str, declared: Dict[str, Any]) -> None:
    """Declare a load-time resolved field (model-file config overrides,
    weight-resolved dtypes) after publish. It is written to the config
    bags via ``get_context().override`` (namespace readers see it); server_args
    stays the pristine startup record. Validated against the resolvable
    whitelist first."""
    from sglang.srt.runtime_context import get_context
​
    context = get_context()
    # 先校验声明字段是否在白名单中
    validate_declarations(context.server_args, [(source, dict(declared))])
    # 写入配置包（命名空间读取者可见）；server_args 保持为纯净的启动记录
    context.override(source, **declared)

评论区精华

机器人审查者（chatgpt-codex-connector[bot]）提出了三个 P1 级别的问题：

• 推测解码场景的负载时覆盖持久化：当构建推测草稿 worker 时，draft_worker_common.py 通过 set_server_args(saved_server_args) 恢复目标配置，该调用会从干净的 server_args 重建配置包。由于新实现不再在 server_args 上保留声明，重新发布时会丢失之前的负载时覆盖值（如自动禁用的共享专家融合设置）。
• 单元测试失败：TestPublishLifecycle 夹具中的 test_declare_load_time_override_writes_through 测试因配置包缺少 NS 元数据而失败，抛出 ValueError: override: unknown config field 'page_size'。共享专家测试也仍断言 server_args 被修改。

• 草稿负载时覆盖写入目标配置包：当草稿模型调用 declare_load_time_override() 时，build_draft_tp_worker 并未发布草稿的 ServerArgs，导致 get_context() 仍包含目标配置。新实现将草稿推导的值写入目标配置包，preserve_config() 无法撤消，因为保存/恢复的是同一包对象而非副本。这些讨论在 PR 合并时仍处于开放状态。

  • 推测解码场景的负载时覆盖持久化 (correctness): 未解决，机器人建议保留负载时覆盖的持久化机制。
  • 单元测试失败 (testing): 未解决，机器人建议更新测试或适配夹具。
  • 草稿负载时覆盖写入目标配置包 (correctness): 未解决，机器人建议隔离草稿负载时覆盖写入单独的包。

风险与影响

• 风险：
  • 推测解码回归（高风险）：草稿 worker 的负载时覆盖可能错误地污染目标配置包，导致共享专家融合等设置异常禁用。
  • 测试失败（中风险）：现有单元测试因配置包元数据不足而失败，CI 可能阻塞。
  • 重新发布语义破坏（高风险）：set_server_args 恢复时无法保留负载时覆盖，影响多 worker 场景。
• 影响：
  • 影响范围：仅修改了 python/sglang/srt/arg_groups/overrides.py 一个文件，改动量小（+9/-11）。
  • 对用户影响：正常情况下无感知，但涉及推测解码和多 worker 场景的用户可能遇到配置行为异常。
  • 对系统影响：改变了配置生命周期中负载时解析值的持久化方式，与栈式 PR 系列中的其他变更（如命名空间读取）协同。
  • 风险标记：推测解码回归, 测试覆盖不足, 配置持久化语义变化

关联脉络

• PR #31814 Stacked on #31814: 此 PR 栈在该 PR 之上，共同构成结构化 RuntimeContext 配置 API 系列。