#2826 test(loss): CP=2 allgather consistency tests; fix empty-rank log-prob dtype
原始 PR · 作者 yueming-yuan · 合并时间 2026-08-31 14:00
Miles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.
原始 PR · 作者 yueming-yuan · 合并时间 2026-08-31 14:00
CI 命令网关新增用户 ID 白名单,种子授权 4 位贡献者
值得精读,尤其适合管理开源仓库 CI 命令权限的团队。两个设计决策值得借鉴:①授权身份绑定 GitHub 稳定数字 ID 而非 login,避免用户名变更导致权限漂移;②每个 tier 独立白名单,且 `/clear-labels` 这类涉及 CI 策略的操作始终要求实时 write/admin,体现最小权限原则。建议后续补强 v4 的 `users` 条目 schema 校验与缺键错误测试,弥补删除 `_validate_user_ids` 后的校验空档。
原始 PR · 作者 YolandaLyj · 合并时间 2026-08-31 10:51
policy 前向保留模型精度,按块上转 FP32 省显存
值得精读。核心看点是“延迟上转”模式:把整张 logits 的 FP32 物化推迟到 chunk 粒度,配合 Megatron `fp32_output` 开关实现显存近一个数量级的下降;另一个值得借鉴的细节是把温度缩放放到 FP32 上转之后再做,避免模型精度下的舍入误差,并用 atol=1e-6 的等价性测试固化。fp16 placeholder 的 `sum(dtype=torch.float32)` 防溢出写法也建议在其它 loss 占位处复用。若团队后续要统一 1F1B 路径,可参考本 PR 的 `fp32_output` 透传设计。
原始 PR · 作者 yueming-yuan · 合并时间 2026-08-30 14:37
新增 stage-c-8-gpu-b200,接入 8×B200 CI runner
值得快速精读。虽然单看只是注册表加一行 + 一个 workflow job,但其中蕴含两个可复用的 CI 设计原则:一是「测试自声明 GPU 预算(ray start --num-gpus / torchrun --nproc-per-node)而不是读取可见设备」,这让不分区主机的资源分配语义清晰;二是「合入时零测试注册是安全的,因为空 stage 收集零测试并退出 0」,支撑了增量迁移的分步落地。对参与 CI 基础设施维护的工程师,建议重点关注 pr-test.yml 中 job 注释与 tests/ci/run_suite.py 的 suite 注释,这两处把「为什么这么设计」讲得最清楚。
原始 PR · 作者 nanjiangwill · 合并时间 2026-08-30 14:31
CSR 采样掩码表示与 rollout→trainer 传输契约落地
值得精读。重点学习两点:一是 codec 中通过 `ROLLOUT_SAMPLING_MASK_FIELDS` 从默认 allowlist 排除新字段、保持 payload 字节级向后兼容的策略;二是 CSR 掩码完整生命周期管理(append 校验、prefix 截断、merge 补观察 token、reset 清空)。建议合入前确认工具调用路径的强制 token 掩码覆盖,并在 #2596 落地 e2e 后回看数据流完整性。
新增 Anthropic 会话验证与 SGLang 契约闸门
值得精读。三个设计点最有价值:一是硬/软失配的分层判定配合 sidecar 日志,解决"rollout 重试吞掉验证失败"的经典问题;二是用配对 checkout 把上游外部 PR 不跑的 CPU 套件搬进自家 CI,形成行为保持闸门;三是端口独立分配对并发部署的改进。阅读时注意临时闸门的清理时机与 Qwen3.6 阈值放宽的后续收敛。
参与讨论