#2588 glm52_tbench2: collapse levers and launch fixes from the GB300 16-node smoke runs
原始 PR · 作者 yueming-yuan · 合并时间 2026-08-18 08:36
修复 GB300 16 节点 tbench2 训练崩溃,折叠三个关键配置杠杆
值得精读。这是「用一次 16 节点 smoke run 的逐 token 取证驱动配置和运行期行为修复」的典型范例:PR body 中关于 `--tis-clip-low` 反向后果、SDK 非幂等重试导致 zombie decode 的量化分析(~1000 引擎侧请求 vs 128 活跃样本)尤其值得关注。建议重点阅读三个设计决策:①TIS clip 下限回归默认值的理由(不要为了"梯度稳定"而违背 importance sampling 语义);②`max_retries=0` 与 `timeout=3600` 的配对逻辑(生成请求不幂等,重试代价高于超时等待);③`finish_reason == "length"` 终结 episode 的边界语义。同时建议跟进 #2591 与 `--max-weight-staleness` 的后续修复,它们与本 PR 构成完整的崩溃治理链路。