执行摘要

本PR为sglang项目CI系统新增GLM-5.1 FP8模型的夜间测试，覆盖H200/B200 GPU集群的三种并行配置变体，同时更新Qwen3.5测试至FP8版本并集成数据并行注意力机制。这些变更扩展了大模型测试覆盖，确保CI与最新模型版本和并行策略同步，对开发团队验证模型兼容性和性能有积极影响，但需注意外部模型依赖和测试资源消耗的风险。

功能与动机

PR的主要目标是扩展夜间测试套件，以覆盖新发布的GLM-5.1 FP8模型和更新后的Qwen3.5 FP8模型。根据PR body，具体动机包括：

• 添加GLM-5.1 FP8测试：为H200/B200 GPU集群（nightly-8-gpu-common套件）新增测试，包含TP8、TP8+DP8和TP8+DP8+MTP三种变体，以验证不同并行配置下的模型表现。
• 更新模型引用：将GB300测试中的GLM-5模型升级至GLM-5.1，确保测试使用最新版本。
• 升级Qwen3.5测试：将模型路径更新为FP8精度版本（Qwen/Qwen3.5-397B-A17B-FP8），并集成来自PR #22288的DP-attention变体，增强测试覆盖。

这些变更是为了保持CI测试与模型演进的同步，防止因模型过时而产生测试缺口。

实现拆解

实现涉及三个测试文件的变更，按模块拆解如下：

关键代码逻辑示例（来自test_glm_51_fp8.py）：

variants = [
    ModelLaunchSettings(
        GLM_51_FP8_MODEL_PATH,
        tp_size=8,
        extra_args=COMMON_ARGS,
        variant="TP8",
    ),
    ModelLaunchSettings(
        GLM_51_FP8_MODEL_PATH,
        tp_size=8,
        extra_args=COMMON_ARGS + dp_args,
        variant="TP8+DP8",
    ),
    ModelLaunchSettings(
        GLM_51_FP8_MODEL_PATH,
        tp_size=8,
        extra_args=COMMON_ARGS + dp_args + MTP_ARGS,
        variant="TP8+DP8+MTP",
        env={"SGLANG_ENABLE_SPEC_V2": "1"},
    ),
]

评论区精华

由于review_comments_count为0，没有记录review讨论。但从提交历史中可推断一个潜在讨论点：第二个提交“Revert GLM-5.1 naming in test_glm5_nvfp4.py”表明，在初始实现后可能发现GLM-5.1 NVFP4模型不存在，因此回退了相关命名更改以保持一致性。这提示了模型命名验证的重要性，但具体讨论细节未公开。

风险与影响

风险分析：

1. 外部模型依赖：测试依赖Hugging Face模型仓库（如zai-org/GLM-5.1-FP8），若模型被删除或更新，可能导致CI失败。
2. 新增并行变体复杂度：DP-attention变体（--enable-dp-attention）可能引入未充分测试的代码路径，增加调试难度。
3. 测试时间增长：夜间测试估计时间较长（1800秒），可能影响CI资源利用和反馈速度。
4. 模型版本差异：GLM-5到GLM-5.1的更新可能带来行为变化，需确保准确度阈值（0.92）仍适用。

影响分析：

• 对CI系统：扩展测试覆盖，提升对最新模型和并行策略的验证能力，但可能增加夜间CI负载。
• 对开发团队：提供更全面的模型兼容性反馈，有助于及早发现回归问题。
• 对用户：无直接影响，属于内部测试改进。

关联脉络

从近期历史PR看，本PR与多个CI测试优化PR相关：

• PR #22288：Qwen3.5的DP-attention变体来源，表明这是功能集成的一部分。
• PR #22346和#22237：同属CI测试调整，关注资源分配和准确度阈值，反映项目对测试稳定性和准确性的持续优化。
• 更广泛的趋势：近期PR（如#22400、#22395）显示项目正加强CI效率和覆盖，本PR延续了这一方向，专注于大模型测试的扩展和更新。

整体上，本PR是sglang项目CI测试演进的一部分，旨在确保测试套件与快速迭代的模型生态保持同步。