执行摘要

• 一句话：修复 disagg 端点缺失 data_parallel_rank 转发
• 推荐动作：值得合入，修复明确且安全。PR 本身简单，但可作为理解 disagg 服务与数据并行路由交互的参考。

功能与动机

/v1/chat/completions 和 /v1/completions 已读取 X-data-parallel-rank 头并传递 data_parallel_rank，但 disagg /inference/v1/generate 端点未实现，导致路由器注入的 DP 路由在 disagg 场景下静默无效。PR body 明确指出这是不一致性（inconsistency），而非新功能。

实现拆解

1. 在 vllm/entrypoints/serve/disagg/serving.py 的 serve_tokens 方法中，获取 trace_headers 之后、调用 engine_client.generate 之前，新增两行代码：
   • 调用继承自 OpenAIServing 的 self._get_data_parallel_rank(raw_request) 提取请求头中的 data_parallel_rank。
   • 在 engine_client.generate 调用中新增 data_parallel_rank=data_parallel_rank 参数。
2. 无其他文件修改。
3. 测试：已通过 disagg 服务器端到端测试（7 passed, 1 deselected），未新增单元测试，因为 _get_data_parallel_rank 已有父类测试覆盖。

关键文件：

• vllm/entrypoints/serve/disagg/serving.py（模块 入口服务；类别 source；类型 core-logic；符号 serve_tokens）: 核心修改文件，在 serve_tokens 方法中新增 data_parallel_rank 提取与传递。

关键符号：serve_tokens

关键源码片段

vllm/entrypoints/serve/disagg/serving.py

核心修改文件，在 serve_tokens 方法中新增 data_parallel_rank 提取与传递。

# 位于 vllm/entrypoints/serve/disagg/serving.py
​
# ... 前面的代码获取 trace_headers ...
trace_headers = (
    None
    if raw_request is None
    else await self._get_trace_headers(raw_request.headers)
)
​
# 新增 : 从请求头中提取 data_parallel_rank，路由器可注入此头实现 DP 路由
data_parallel_rank = self._get_data_parallel_rank(raw_request)
​
result_generator = self.engine_client.generate(
    engine_input,
    sampling_params,
    request_id,
    lora_request=lora_request,
    trace_headers=trace_headers,
    priority=request.priority,
    data_parallel_rank=data_parallel_rank, # 新增 : 传递 DP rank
)

评论区精华

无人工 review 评论，仅 claude[bot] 和 gemini-code-assist[bot] 的自动化评论，后者表示无反馈。Reviewed by NickLucche (APPROVED)。

• 暂无高价值评论线程

风险与影响

• 风险：风险极低：
  • 仅新增两行代码，调用已有父类方法，路径已在其地端点验证。
  • 当请求头缺失时 data_parallel_rank 默认为 None，行为与 OpenAI 兼容端点一致，无回归路径。
  • 不涉及性能、安全或兼容性风险。
  • 影响：影响范围小，仅 disagg 的 /inference/v1/generate 端点。用户如果已通过路由器注入 X-data-parallel-rank 头，此修复后将正确路由到指定 DP rank。不影响未使用该头的客户端。
  • 风险标记：暂无

关联脉络

• 暂无明显关联 PR