执行摘要

• 一句话：重构 server_args 常量组织与布局，迁移 MIS 分隔符
• 推荐动作：值得快速精读 server_args.py 的模块 docstring 与扩展点分区，这是 sglang 服务配置模块的维护基线；中间的 sampler 注册机制争议展示了 sglang 社区“优先内联、避免过度抽象、但保留对外扩展点”的设计取向。若你维护外部插件，需确认没有 from sglang.srt.server_args import MIS_DELIMITER_TOKEN_ID 的引用。

功能与动机

PR body 明确动机：Keep server_args.py focused on server configuration and make its top-level organization easier to maintain。server_args.py 是全局配置入口，历史上承载了模型加载、量化、attention、传输、采样等大量 choice list 和散落常量，需要梳理；同时 MIS_DELIMITER_TOKEN_ID 这类非配置常量放在配置模块里职责不符，迁移到 sglang.srt.constants 统一管理。

实现拆解

1. 重写模块说明与布局规范：python/sglang/srt/server_args.py 的模块 docstring 从一句话扩展为 6 层结构规范，定义导入、扩展点列表、共享配置、ServerArgs 本体、运行时 shim、网络常量的先后顺序，并明确“模型或厂商专用工具应放 sglang.srt.arg_groups”。
2. 分区与内联常量：在扩展点 choice list 前增加分节 banner，区分“可扩展列表（带 add_* 追加器）”与“单一用途常量（应内联到字段）”；内联了 uvicorn access log 前缀、DeepEP v2、LoRA 等单用途常量。
3. 迁移 MIS 分隔符：将 MIS_DELIMITER_TOKEN_ID = 9999 从 server_args 移到 sglang.srt.constants，并同步更新 logprob_result_processor.py、tokenizer_manager_score_mixin.py 与 test_embed_overrides.py 三处导入。
4. 采样后端扩展点的收敛与回退：第二个提交曾尝试简化 SAMPLING_BACKEND_CHOICES 并引入 sampler_registry.py 注册表，review 要求直接内联并删除注册文件；最终提交恢复 SAMPLING_BACKEND_CHOICES 为全局扩展点，保留 register_sampler_backend() 行为。
5. 测试配套：仅调整 test_embed_overrides.py 的导入路径；test_server_args.py 185 个用例、test_embed_overrides.py 41 个用例等全部通过，证明无回归。

关键文件：

• python/sglang/srt/server_args.py（模块 配置入口；类别 source；类型 core-logic；符号 add_cli_args, SAMPLING_BACKEND_CHOICES, LOAD_FORMAT_CHOICES）: 重构主体：重写模块 docstring 明确 6 层文件布局，为扩展点 choice list 添加分区 banner，内联单用途常量，并将 MIS_DELIMITER_TOKEN_ID 迁出本文件。
• python/sglang/srt/constants.py（模块 公共常量；类别 source；类型 core-logic；符号 MIS_DELIMITER_TOKEN_ID）: 新增 MIS_DELIMITER_TOKEN_ID 常量，作为多条目评分占位 token 的归属地，后续 position-only MIS 支持时可统一在此删除。
• python/sglang/srt/managers/scheduler_components/logprob_result_processor.py（模块 logprob 处理；类别 source；类型 dependency-wiring；符号 _process_input_token_logprobs）: MIS_DELIMITER_TOKEN_ID 的消费方之一，导入路径从 server_args 切换到 constants，验证常量迁移后调度器 logprob 处理仍正常。
• python/sglang/srt/managers/tokenizer_manager_score_mixin.py（模块 评分处理；类别 source；类型 dependency-wiring）: 评分请求路径中同样引用 MIS_DELIMITER_TOKEN_ID，随常量迁移同步更新导入，保证 score 链路不回归。
• test/registered/unit/managers/test_embed_overrides.py（模块 覆盖测试；类别 test；类型 test-coverage）: 同步更新测试中的常量导入，确保 MIS 相关 embed 覆盖测试覆盖新常量路径。

关键符号：add_cli_args

关键源码片段

python/sglang/srt/server_args.py

重构主体：重写模块 docstring 明确 6 层文件布局，为扩展点 choice list 添加分区 banner，内联单用途常量，并将 MIS_DELIMITER_TOKEN_ID 迁出本文件。

"""Server argument declarations, resolution, and CLI registration.
​
Keep this file in the following top-level order:
​
1. Imports and the module logger.
2. Public extension-point choice lists, with each legacy ``add_*`` alias
   immediately below the choice list it extends.
3. Shared (non-extensible) choice lists, scalar defaults, and deprecated
   aliases. A choice list used by only one field belongs inline in that field.
4. ``ServerArgs``: fields first, then resolution/validation helpers, then CLI
   registration and small query helpers. New resolution steps are appended at
   the end of ``_run_resolution_pipeline``, immediately before resolution is
   marked complete, unless an earlier dependency is documented explicitly.
5. Module-level ``ServerArgs`` construction/runtime shims.
6. Networking constants and ``PortArgs``.
​
Model- or vendor-specific utilities belong in ``sglang.srt.arg_groups`` (or
 their owning subsystem), not before ``ServerArgs`` in this module.
"""
​
from __future__ import annotations
​
# ...（import 与 logger 初始化省略，保持片段聚焦于布局规范）...
​
logger = logging.getLogger(__name__)
​
# --------------------------------------------------------------------------
# Extension points: out-of-tree platforms and plugins extend these lists
# before ServerArgs is constructed. Each list owns its adder on the line
# below it. A list with no adder is not an extension point -- inline it into
# the field's Arg(choices=...) instead of hoisting it here.
# --------------------------------------------------------------------------
​
# --- Model loading and quantization ---
​
LOAD_FORMAT_CHOICES = [
    "auto",
    "pt",
    "safetensors",
    "npcache",
    "dummy",
    "sharded_state",
    "presharded",
    "gguf",
    # Experimental and intentionally narrow: expert_pack is validated only for
    # DeepSeek-V4-Flash-0731 MXFP4 GGUF (MXFP4 experts, FP8 dense weights)
    # and KIMI-K3-MXP4-DERISKED-Q2_K-*.gguf variants.
    "expert_pack",
    "bitsandbytes",
    "mistral",
    "layered",
    "flash_rl",
    "remote",
    "remote_instance",
    "fastsafetensors",
    "private",
    "runai_streamer",
]
# 每个扩展点列表的追加器紧跟在列表下方，外部插件可直接调用它注册新选项；
# 没有追加器的列表不是扩展点，应内联到字段的 Arg(choices=...) 中。
add_load_format_choices = LOAD_FORMAT_CHOICES.extend

python/sglang/srt/constants.py

新增 MIS_DELIMITER_TOKEN_ID 常量，作为多条目评分占位 token 的归属地，后续 position-only MIS 支持时可统一在此删除。

# GPU Memory Types
GPU_MEMORY_TYPE_KV_CACHE = "kv_cache"
GPU_MEMORY_TYPE_WEIGHTS = "weights"
GPU_MEMORY_TYPE_CUDA_GRAPH = "cuda_graph"
​
GPU_MEMORY_ALL_TYPES = [
    GPU_MEMORY_TYPE_KV_CACHE,
    GPU_MEMORY_TYPE_WEIGHTS,
    GPU_MEMORY_TYPE_CUDA_GRAPH,
]
​
HEALTH_CHECK_RID_PREFIX = "HEALTH_CHECK"
​
# 该占位 token 从 server_args.py 迁移至此集中管理。
# Placeholder token inserted between items in Multi-Item Scoring sequences:
# query<delim>item1<delim>item2<delim>... Positions are pre-computed from item
# lengths (multi_item_delimiter_indices); the token only exists for FlashInfer
# attention mask compat and logprob column indexing. Will be removed once the
# attention backend supports position-only MIS.
MIS_DELIMITER_TOKEN_ID = 9999
​
GIB_BYTES = 1073741824 # 1024**3

评论区精华

review 中 merrymercy 对中间版本引入的 sampler_registry.py 注册机制提出反对：this file is not needed at all! why do we need this? remove it.，并在 add_cli_args 处要求 just inline here, no need to introduce complicated register functions.，同时要求删除对应单元测试。后续提交 498e6256 删除了注册文件和测试、改为局部内联；最终 fe003fb 又恢复 SAMPLING_BACKEND_CHOICES 作为全局扩展点，保留 register_sampler_backend() 行为。核心结论：能内联的配置不引入注册框架，但已对外暴露的扩展点必须保持兼容。

• 是否引入 sampler_registry 注册机制 (design): 在提交 498e6256 中删除 sampler_registry.py 及相关测试，改为局部内联 choice set；后续提交 fe003fb 又恢复 SAMPLING_BACKEND_CHOICES 为全局扩展点，保证 register_sampler_backend() 兼容。
• SAMPLING_BACKEND_CHOICES 的扩展点语义 (design): 保留 SAMPLING_BACKEND_CHOICES 作为全局扩展点，避免破坏 out-of-tree 平台通过 register_sampler_backend() 注册的采样后端。

风险与影响

• 风险：
  1. 常量迁移的导入兼容性：MIS_DELIMITER_TOKEN_ID 从 server_args 迁往 constants 后，任何仍从 server_args 导入该常量的第三方插件或下游脚本会直接 ImportError，仓库内引用已全部更新，但无法覆盖仓库外使用方。
  2. 采样后端扩展点回归：中间版本一度把 SAMPLING_BACKEND_CHOICES 简化为局部集合并引入注册表，若最终合并时未完整恢复，会破坏 out-of-tree 平台通过 register_sampler_backend() 注册的自定义采样后端对 CLI choices 的可见性。
  3. 布局规范无强制校验：模块 docstring 的 6 层布局只是约定，后续新增参数可能重新打乱结构。
     - 影响：对运行时无影响：PR 明确标注无模型计算与推理路径性能变化，CI 中 test_server_args.py 185 个用例、test_embed_overrides.py 41 个用例等全部通过。对开发者影响显著：server_args.py 新增的布局规范与分区 banner 让未来的参数增删有明确落位；MIS 常量迁移后，logprob 处理与评分链路不再反向依赖配置模块，降低循环依赖风险。对第三方插件存在低概率的兼容性影响（见风险）。
     - 风险标记：常量迁移破坏导入兼容性, 采样后端扩展点回归风险, 超大配置模块重构

关联脉络

• PR #36681 Move server args config parser under utils: 同属 server_args 模块的组织重构，将配置解析器移入 utils；与本 PR 一起构成对服务配置基础设施的系统性梳理。
• PR #34608 Publish per-scheduler load on a dedicated socket for load-aware routers: 在 server_args.py 中新增参数并扩展配置面，与本 PR 同属 server 配置模块的持续演进，本 PR 的布局规范为后续此类扩展提供落位指引。