执行摘要

• 一句话：修复多 tokenizer 模式 ZMQ 绑定冲突
• 推荐动作：此 PR 值得精读，尤其是多进程通信中唯一所有者模式的实现、事件驱动的 fd 注册方式以及如何处理异步/同步上下文冲突。对于需要在多 tokenizer 环境下使用负载均衡的团队至关重要。

功能与动机

Issue #27142 报告在 multi-tokenizer 模式下服务器启动失败，错误为 'Address already in use'。根本原因是引入 ZMQ 负载快照传输后，没有考虑到多 tokenizer 场景，每个 TokenizerWorker 都试图绑定同一个 ZMQ PULL 端点。本变更旨在确保同一节点上只有一个进程绑定 ZMQ 套接字，其他进程通过共享内存读取数据。

实现拆解

按步骤描述：

1. 在 load_snapshot.py 中添加 _tokenizer_load_snapshot_owner_caller 函数，根据 tokenizer_worker_num 返回 'MultiTokenizerRouter' 或 'TokenizerManager'。
2. 修改 zmq_reader_owner 函数，引入 tokenizer_owner 变量，支持新的 caller 类型，更新文档字符串。
3. 在 multi_tokenizer_mixin.py 中，MultiTokenizerRouter 初始化时根据 zmq_reader_owner 决定是否创建 ZMQ 读取器，并通过 _register_load_snapshot_reader 将读取器的 fd 注册到事件循环，实现事件驱动的轮询。
4. 统一 caller 命名规范：将 'tokenizer' 改为 'TokenizerManager'，'dp_controller' 改为 'DataParallelController'，涉及 data_parallel_controller.py 和 tokenizer_manager.py。
5. 添加 TestZmqReaderOwner 单元测试类，覆盖多种配置下唯一 owner 的验证。

关键文件：

• python/sglang/srt/managers/load_snapshot.py（模块 负载快照；类别 source；类型 core-logic；符号 _tokenizer_load_snapshot_owner_caller, fileno, poll）: 核心逻辑：添加 _tokenizer_load_snapshot_owner_caller 函数，修改 zmq_reader_owner 以支持新角色，统一 caller 命名；新增 fileno/poll 方法支持事件驱动。
• python/sglang/srt/managers/multi_tokenizer_mixin.py（模块 多 tokenizer 路由；类别 source；类型 core-logic；符号 _register_load_snapshot_reader）: 在 MultiTokenizerRouter 中集成 ZMQ 读取器，实现事件驱动轮询。
• test/registered/unit/managers/test_load_snapshot_backends.py（模块 单元测试；类别 test；类型 test-coverage；符号 TestZmqReaderOwner, _args, _owners, test_zmq_disabled_no_owner）: 新增 TestZmqReaderOwner 类，覆盖多配置下唯一 owner 断言，确保所有权逻辑正确。
• python/sglang/srt/managers/data_parallel_controller.py（模块 数据并行控制；类别 source；类型 entrypoint）: 更新 caller 名称为 'DataParallelController'，与其他角色命名统一。
• python/sglang/srt/managers/tokenizer_manager.py（模块 Tokenizer 管理；类别 source；类型 core-logic）: 更新 caller 名称为 'TokenizerManager'，与角色命名统一。

关键符号：_tokenizer_load_snapshot_owner_caller, zmq_reader_owner, _register_load_snapshot_reader, fileno, poll

关键源码片段

python/sglang/srt/managers/multi_tokenizer_mixin.py

在 MultiTokenizerRouter 中集成 ZMQ 读取器，实现事件驱动轮询。

# python/sglang/srt/managers/multi_tokenizer_mixin.py (MultiTokenizerRouter 部分 )
​
def __init__(self, server_args, port_args):
    # ...
    self.load_snapshot_reader = None
    if zmq_reader_owner(server_args, 'MultiTokenizerRouter'):
        self.load_snapshot_reader = create_load_snapshot_reader(
            server_args, port_args, caller='MultiTokenizerRouter'
        )
        self._loop.call_soon_threadsafe(self._register_load_snapshot_reader)
    # ...
​
def _register_load_snapshot_reader(self):
    assert self.load_snapshot_reader is not None
    self._loop.add_reader(
        self.load_snapshot_reader.fileno(),
        self.load_snapshot_reader.poll
    )
    self.load_snapshot_reader.poll()

评论区精华

review 中主要讨论：

1. gemini-code-assist[bot] 指出异步 ZMQ 上下文冲突风险，建议重置 PyZMQ 上下文单例。
2. merrymercy 要求统一 caller 命名风格，避免使用 getattr。这些建议均已在后续修正中落实。

• 异步 ZMQ 上下文冲突 (correctness): PR 作者确认已处理，最终代码中通过重新设计 reader 创建或上下文隔离解决了此问题。
• 统一命名规范 (style): 已按要求修改，最终代码中使用新命名。
• 避免 getattr (correctness): 已移除 getattr 调用，改用直接属性访问。

风险与影响

• 风险：主要风险：
  1. 异步 ZMQ 上下文污染（可能已通过重置或内部上下文管理解决）。
  2. 事件驱动轮询可能引入竞态，但 zmq PULL socket 的 edge-triggered fd 特性可保证安全。
  3. 多 tokenizer 模式配置组合较多，新增的单元测试覆盖了主要场景，但仍可能存在边界情况（如 dp_size > 1 且 tokenizer_worker_num > 1 且非负载感知方法）。
  4. 与 future PR 的负载快照功能可能存在交互，需注意兼容性。
     - 影响：对用户：修复了 multi-tokenizer 模式下服务器启动崩溃，使该配置可用。对系统：引入了事件驱动读取机制，减少了轮询开销。对团队：统一了负载快照的所有权模型，为后续扩展奠定了基础。影响范围：仅在启用 ZMQ 传输（多节点 DP 或强制环境变量）且 tokenizer_worker_num > 1 时触发，属于非默认路径。
     - 风险标记：ZMQ 上下文冲突, 事件驱动回归, 多 tokenizer 边界情况

关联脉络

• PR #27174 Add num_waiting_uncached_tokens load metric: 同一文件 (load_snapshot.py) 修改，均属于负载快照功能模块，可能存在交互依赖。