执行摘要

• 一句话：重试读 config 以应对 HF 缓存刷新竞态
• 推荐动作：值得精读。该 PR 展示了如何利用已有重试辅助函数优雅修复一个棘手的分布式竞态问题，且改动极小（+11/-7），适合作为竞态修复的参考范例。

功能与动机

tests/v1/distributed/test_external_lb_dp.py 在 ROCm CI 上间歇性失败，根源是 --api-server-count=4 时多个 API server 进程同时读取 HF 缓存 config.json，而 huggingface_hub 的 _create_symlink 非原子操作（os.remove + os.symlink）在缓存刷新期间留下短暂窗口，导致进程读到空内容并抛出 Unrecognized model 错误。

实现拆解

1. 定位竞态根因：在 vllm/transformers_utils/config.py 的 get_config 函数中，config_parser.parse 直接调用，未考虑并发场景下 HF 缓存 config.json 因非原子 symlink 替换而短暂缺失。
2. 引入重试机制：将 config_parser.parse 调用包裹在已有的 with_retry 辅助函数中，设置重试次数（默认 3 次），仅对瞬时异常重试。
3. 保持失败封闭：真正的空文件或损坏配置仍会在重试耗尽后抛出异常，不会静默忽略。
4. 移除冗长注释：根据 review 建议，精简原本过长的注释行，改为简洁的一行注释。

关键文件：

• vllm/transformers_utils/config.py（模块 配置读取；类别 source；类型 core-logic）: 核心修改文件：在 get_config 中将 config_parser.parse 调用包裹在 with_retry 中，以容忍 HF 缓存刷新导致的瞬时文件缺失。

关键符号：未识别

关键源码片段

vllm/transformers_utils/config.py

核心修改文件：在 get_config 中将 config_parser.parse 调用包裹在 with_retry 中，以容忍 HF 缓存刷新导致的瞬时文件缺失。

# 原本直接调用 config_parser.parse，现用 with_retry 包装以容忍 HF 缓存刷新时的短暂文件缺失
config_parser = get_config_parser(config_format)
# Retry to tolerate a concurrent HF cache refresh briefly hiding config.json.
config_dict, config = with_retry(
    lambda: config_parser.parse(
        model,
        trust_remote_code=trust_remote_code,
        revision=revision,
        code_revision=code_revision,
        hf_overrides=hf_overrides_kw or hf_overrides_fn,
        **kwargs,
    ),
    f"Error parsing config for {model}",
)

评论区精华

评审者 AndreasKaratzas 建议将原本冗长的注释精简为一行或完全移除，作者 peizhang56 响应并更新，最终注释简化为 # Retry to tolerate a concurrent HF cache refresh briefly hiding config.json.。其他评审者（hmellor, AndreasKaratzas, mgoin）均批准。

• 注释过长的代码可读性 (style): 作者更新了注释，将其简化为一行简要说明。

风险与影响

• 风险：低风险。修改仅将 config_parser.parse 包装在 with_retry 中，该重试函数已在项目多处使用，行为可预期。新增重试仅对异常情况触发，正常路径无性能影响。不会掩盖真正的配置错误，因为空或损坏的 config.json 仍会在重试次数耗尽后抛出异常。
• 影响：直接影响 vllm/transformers_utils/config.py 中的 get_config 函数。修复了多 API server 并发启动时的模型加载竞态故障，使分布式测试（test_external_lb_dp.py）在 ROCm CI 上稳定通过，避免了 Servers failed to start 误报。不影响单进程或非竞态场景。
• 风险标记：核心路径变更

关联脉络

• 暂无明显关联 PR