执行摘要

• 一句话：同步 mamba_block_size 修复缓存指标失配
• 推荐动作：建议快速精读。它虽是小修复，却完整演示了跨进程运行时配置同步的闭环：协议字段加默认值保持兼容、引擎侧组装实际值、客户端回写配置、单测锁定行为。阅读时重点关注 _apply_ready_response 的同步模式与可选字段的兼容性设计，可作为同类 bugfix 的参考模板。

功能与动机

PR 正文指出这是 #42966 的同类 bug：混合 Mamba 模型（如 Qwen3.6-35B-A3B）中，worker 的 _align_hybrid_block_size() 会在运行时同时调整 block_size 与 mamba_block_size（例如从 16 放大到 1056），但上一个修复只把 block_size 通过 EngineCoreReadyResponse 同步回前端，mamba_block_size 被遗漏，导致 vllm:cache_config_info 指标失真。

实现拆解

1. 扩展握手协议：在 vllm/v1/engine/init.py 的 EngineCoreReadyResponse 中新增 mamba_block_size: int | None = None 可选字段，默认值 None 保证 msgspec 解码旧消息时字段缺失不报错，实现向后兼容。
2. 引擎侧回传：在 vllm/v1/engine/core.py 的 _make_ready_response 中从 vllm_config.cache_config.mamba_block_size 读取实际值填入响应，确保响应携带 worker 对齐后的真实值。
3. 前端同步：在 vllm/v1/engine/core_client.py 的 _apply_ready_response 中，在同步 block_size 的同一位置追加 cache_config.mamba_block_size = response.mamba_block_size，使前端 cache_config 与引擎实际配置一致，进而让 vllm:cache_config_info 指标反映真实值。
4. 测试配套：在 tests/v1/engine/test_engine_core_client.py 新增 test_apply_ready_response_syncs_mamba_block_size，构造携带 mamba_block_size=1056 的 EngineCoreReadyResponse 并断言 _apply_ready_response 将其写回 cache_config，覆盖非空同步路径。

关键文件：

• vllm/v1/engine/core_client.py（模块 引擎客户端；类别 source；类型 core-logic；符号 _apply_ready_response）: 同步逻辑的核心消费端：_apply_ready_response 在此把响应的 mamba_block_size 写回前端 cache_config，是本 PR 修复效果落地的关键位置。
• vllm/v1/engine/core.py（模块 引擎核心；类别 source；类型 core-logic；符号 _make_ready_response）: 引擎侧组装 ready response 的入口：_make_ready_response 从 cache_config 提取实际 mamba_block_size，是数据流的发送端。
• vllm/v1/engine/__init__.py（模块 握手协议；类别 source；类型 core-logic；符号 EngineCoreReadyResponse）: 定义握手协议数据类 EngineCoreReadyResponse，新增可选字段 mamba_block_size 并保持旧消息兼容，是跨进程同步的协议基础。
• tests/v1/engine/test_engine_core_client.py（模块 引擎测试；类别 test；类型 test-coverage；符号 test_apply_ready_response_syncs_mamba_block_size）: 新增 test_apply_ready_response_syncs_mamba_block_size 锁定了同步行为，是防止同类回归的关键测试。

关键符号：_make_ready_response, _apply_ready_response, test_apply_ready_response_syncs_mamba_block_size

关键源码片段

vllm/v1/engine/core_client.py

同步逻辑的核心消费端：_apply_ready_response 在此把响应的 mamba_block_size 写回前端 cache_config，是本 PR 修复效果落地的关键位置。

def _apply_ready_response(self, payload: bytes) -> None:
    # 启动完成后把引擎实际生效的配置同步回前端
    if not payload:
        return
    vllm_config = self.vllm_config
    response = msgspec.msgpack.decode(payload, type=EngineCoreReadyResponse)
    # max_model_len 取两者较小值，避免前端配置超过引擎实际容量
    vllm_config.model_config.max_model_len = min(
        vllm_config.model_config.max_model_len, response.max_model_len
    )
    # DP 场景下把各 engine 的 num_gpu_blocks 累加到前端配置
    num_gpu_blocks = vllm_config.cache_config.num_gpu_blocks or 0
    num_gpu_blocks += response.num_gpu_blocks
    vllm_config.cache_config.num_gpu_blocks = num_gpu_blocks
​
    # 关键：同步 block_size 与 mamba_block_size。混合 Mamba 模型（如
    # Qwen3.6-35B-A3B）的 worker 会在 _align_hybrid_block_size() 中把
    # 两者从默认值 16 放大到实际值（例如 1056），遗漏同步会导致
    # vllm:cache_config_info 指标停留在默认值
    cache_config = vllm_config.cache_config
    cache_config.block_size = response.block_size
    cache_config.mamba_block_size = response.mamba_block_size
​
    # 这两个字段保持 per-engine 语义，DP 场景不做累加
    cache_config.kv_cache_size_tokens = (
        getattr(cache_config, 'kv_cache_size_tokens', None)
        if getattr(cache_config, 'kv_cache_size_tokens', None) is not None
        else response.kv_cache_size_tokens
    )
    cache_config.kv_cache_max_concurrency = (
        getattr(cache_config, 'kv_cache_max_concurrency', None)
        if getattr(cache_config, 'kv_cache_max_concurrency', None) is not None
        else response.kv_cache_max_concurrency
    )
    # 外部 DP 负载均衡模式下，协调地址由 rank 0 前端握手提供
    if response.dp_stats_address is not None:
        if self.stats_update_address is None:
            self.stats_update_address = response.dp_stats_address
        else:
            assert response.dp_stats_address == self.stats_update_address

评论区精华

核心讨论是 njhill 在审核时要求补充测试：“do you think you could include/extend a small test to cover this?”。作者随后新增 test_apply_ready_response_syncs_mamba_block_size 并说明端到端验证方式（启动 Qwen3.6-35B-A3B 后对比指标前后值），最终 njhill approve。此外过程中 mergify 多次提示 pre-commit 格式失败与 merge conflict，作者分别通过修正格式（commit c75f0cf）和合并 main（commit 30620e1）解决。

• 补充 mamba_block_size 同步测试 (testing): 作者新增 test_apply_ready_response_syncs_mamba_block_size，构造 mamba_block_size=1056 的 ready response 并断言同步结果；同时说明端到端验证可启动 Qwen3.6-35B-A3B 检查指标。
• pre-commit 格式检查反复失败 (style): 作者在 commit c75f0cf 中修正 test_apply_ready_response_syncs_mamba_block_size 的格式。
• 合并冲突处理 (other): 作者在 commit 30620e1 合并 origin/main 解决冲突后继续 CI。
• 新贡献者 CI 门禁 (other): njhill 添加标签后 CI 正常触发并最终通过。

风险与影响

• 风险：整体风险低，但有三点需要留意。其一，改动位于 V1 引擎每次启动都必经的握手路径（_make_ready_response 与 _apply_ready_response），影响面覆盖所有 V1 部署。其二，_apply_ready_response 直接给 cache_config.mamba_block_size 赋值，要求该属性存在；标准 CacheConfig 具备此属性，但自定义配置类可能缺失。其三，新字段虽以默认 None 兼容旧消息，但未来再增加同类运行时配置时，需保持发送端、接收端、测试三处同步更新的纪律。当前测试只覆盖客户端同步逻辑，Prometheus 指标端到端输出未自动化验证。
• 影响：对用户而言，使用混合 Mamba 模型（如 Qwen3.6-35B-A3B）部署时，vllm:cache_config_info 指标中的 mamba_block_size 将显示真实运行时值而非默认 16，指标与调度器实际配置一致，便于容量与性能监控；对非 Mamba 模型几乎无影响。对系统而言，改动集中在 V1 引擎启动握手数据流，四个文件合计 +39 行，范围很小。对团队而言，该 PR 确立了 EngineCoreReadyResponse 承载运行时对齐参数的扩展模式，后续类似配置项可复用。
• 风险标记：引擎启动握手路径变更, 缓存配置同步核心逻辑, 测试未覆盖指标端到端, 可选字段兼容旧协议

关联脉络

• 暂无明显关联 PR