Prhub

#45638 [Model] Remove XverseForCausalLM

原始 PR 作者 xianbaoqian 合并时间 2026-06-15 13:09 文件变更 4 提交数 1 评论 1 代码增减 +1 / -15

执行摘要

移除废弃模型 XverseForCausalLM

XverseForCausalLM 自 PR #10814(2024 年 12 月)删除独立实现后,已成为 LlamaForCausalLM 的注册别名。根据 vllm-release 遥测,近 6 个月内该架构仅被加载 38 次,总计 0.028 GPU 小时,实际已无人使用。本变更旨在清理无效的注册条目,并避免用户混淆。

PR 本身简单直接,但可作为清理废弃模型注册表条目的参照模板。值得关注的是 _PREVIOUSLY_SUPPORTED_MODELS 机制的设计,它提供了优雅的弃用路径。

讨论亮点

该 PR 无 review 评论。review 者 ywang96 直接批准(APPROVED)。

实现拆解

  1. 从注册表中删除条目 在 vllm/model_executor/models/registry.py 中,从 _TEXT_GENERATION_MODELS 字典中移除 XverseForCausalLM 行(原指向 ("llama", "LlamaForCausalLM"))。
  2. 加入已废弃模型列表 在同一文件的 _PREVIOUSLY_SUPPORTED_MODELS 字典中添加 "XverseForCausalLM": "0.23.0",当用户尝试加载时,vLLM 会给出清晰错误,提示该架构已在 v0.23.0 版本后被移除。
  3. 移除测试条目 从 tests/models/registry.py 中删除 XverseForCausalLM 的测试示例配置(包含 xverse/XVERSE-7B-Chat 检查点及相关 tokenizer 说明)。
  4. 清理注释代码 删除 tests/distributed/test_pipeline_parallel.py 中被注释掉的 "xverse/XVERSE-7B-Chat": PPTestSettings.fast() 行。
  5. 更新文档 从 docs/models/supported_models.md 的模型中删除 XverseForCausalLM 表格行。
文件 模块 状态 重要度
vllm/model_executor/models/registry.py 模型注册表 modified 5.1
tests/models/registry.py 测试 modified 4.48
tests/distributed/test_pipeline_parallel.py 测试 modified 2.95
docs/models/supported_models.md 文档 modified 1.39

关键源码片段

vllm/model_executor/models/registry.py data-contract

核心变更文件:从 _TEXT_GENERATION_MODELS 中删除条目,并加入 _PREVIOUSLY_SUPPORTED_MODELS。

# 从 _TEXT_GENERATION_MODELS 字典(行 217 附近)中删除该行:
# "XverseForCausalLM": ("llama", "LlamaForCausalLM"),
​
# 在 _PREVIOUSLY_SUPPORTED_MODELS 字典(行 725 附近)中添加:
_PREVIOUSLY_SUPPORTED_MODELS = {
    # ... 其他废弃模型 ...
    "XverseForCausalLM": "0.23.0", # 用户尝试加载时会收到清晰错误,并被告知可映射到 LlamaForCausalLM
}

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

兼容性风险:若仍有用户主动指定 --hf-overrides architectures='["XverseForCausalLM"]' 加载 XVERSE 检查点,将因架构不在 _TEXT_GENERATION_MODELS 中而报错。但 PR 提供了清晰的替代方案(映射到 LlamaForCausalLM),且遥测数据表明此类用户极少。
功能风险:变更仅涉及注册表和测试配置,不触及模型执行或推理逻辑,回归风险极低。

用户影响:极少数使用 XverseForCausalLM 的用户将收到友好错误提示并被引导至 LlamaForCausalLM。绝大多数用户不受影响。
系统影响:无运行时影响。
团队影响:降低模型注册表维护负担,与近期清理废弃模型的趋势一致(如 PR #47058 移除冗余 load_weights)。

低兼容性风险 无功能回归风险

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论