Prhub

#29502 [CI] Fix GB300 DSV4 Pro FP4 nightly

原始 PR 作者 mmangkad 合并时间 2026-06-28 12:06 文件变更 1 提交数 5 评论 2 代码增减 +1 / -1

执行摘要

修正 GB300 FP4 nightly 测试内存比例

修复GB300 DSV4 Pro FP4 nightly CI测试失败。PR body未详细说明原因,但从变更内容看,high-throughput变体内存比例0.85导致OOM或性能不达标,需调整至0.9。

简单修复,无需深入阅读。但可留意是否后续需要为不同变体动态调整内存比例,避免硬编码。

讨论亮点

Gemini Code Assist bot 提出评论:注释掉的low-latency和balanced变体会留下死代码,建议添加TODO说明或彻底删除。但该评论针对的是中间提交中临时禁用其他变体的操作,最终提交已恢复这些变体,因此该建议已过时。最终审核者Fridge003批准了PR。

实现拆解

  1. 修改 test/registered/gb300/test_deepseek_v4_pro_fp4.pyHIGH_THROUGHPUT_ARGS 列表的 --mem-fraction-static 参数值,从 "0.85" 改为 "0.9"
  2. 提交历史显示作者曾临时禁用其他GB300 nightly变体以隔离问题,最终恢复并仅保留此调整。
文件 模块 状态 重要度
test/registered/gb300/test_deepseek_v4_pro_fp4.py 测试脚本 modified 3.42

关键符号

test_deepseek_v4_pro_fp4

关键源码片段

test/registered/gb300/test_deepseek_v4_pro_fp4.py test-coverage

唯一变更文件,调整 high-throughput 变体的内存比例参数。

# 文件 : test/registered/gb300/test_deepseek_v4_pro_fp4.py
# 关键变更 : high-throughput 变体的内存比例从 0.85 调整为 0.9HIGH_THROUGHPUT_ARGS = [
    "--trust-remote-code",
    "--dp",
    "4",
    "--enable-dp-attention",
    "--moe-a2a-backend",
    "megamoe",
    "--mem-fraction-static",
    "0.9", # 之前为 "0.85",提升以解决 nightly 测试失败
    "--cuda-graph-max-bs",
    "128",
    "--max-running-requests",
    "256",
]

评论区精华

禁用变体残留代码清理 style

Gemini Code Assist bot 建议:注释掉的 low-latency 和 balanced 变体会产生死代码和未使用变量,应添加 TODO 或彻底删除。

结论:中间提交中临时禁用了其他变体,但最终提交已恢复,因此该建议不再适用。 · 已解决

风险与影响

风险极低。仅修改测试配置文件中的一个数值,不影响任何生产逻辑。内存比例从0.85调整到0.9,可能略微增加GPU内存使用,但对于GB300(4×B200)而言在安全范围内。

影响范围仅限于GB300上DeepSeek-V4-Pro FP4 nightly CI测试的high-throughput变体。其他变体和生产环境不受影响。团队可期待nightly测试更稳定。

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论