radixark/miles · 标签视图

gpu 模式重排交接顺序，缓解 GB300 主机内存峰值

值得精读。核心看点是 `train.py` 中 handoff 重排的先后顺序论证，以及 `rollout_manager` 细粒度 offload API 如何与 `offload_rollout_level` 配合达到语义自洽。由于没有单测，建议结合 #2706 的 e2e 验证上下文阅读，并关注后续是否补强测试，尤其是 `cpu` 模式下 `onload_weights` 新增 guard 的兼容性测试。

Rollouts 标签落在首个可读 step，修复实时点击报错

值得精读。改动虽小但完整呈现了一个前端修复的工程方法论：先枚举全部失败形态再决定统一处理策略（threw 与 empty 同等对待）、为回退探测设置语义边界（5 步后停止并暴露真实错误）、处理异步间隙的竞态守卫、考虑历史栈与重试预算。“有界回看 + 显式请求不重定向”的组合对同类 dashboard 导航很有借鉴意义。若后续要为 dashboard 前端补测试设施，本 PR 的 Playwright 验证矩阵（3 种 dump × 4 种检查）是现成的回归用例清单。

Qwen3.6 会话测试改用 FP8 检查点，验证目标不变

该 PR 不值得精读，可快速合并。值得注意的设计原则是“验证目标优先于 artifact 选择”——在 CI 面上用更轻量的检查点保持等价覆盖，而非削弱验证范围。若想理解 TITO Qwen3.6 支持的全貌，建议阅读上游 PR #2759（引入 tito_tokenizer、qwen3.6_fixed.jinja 模板与 test_qwen36.py）。

disk-delta 基线校验张量 dtype/形状，拒绝非规范布局

值得精读。核心设计是“规范化校验前置 + 集合通信错误同步”：在分布式训练中，source rank 的校验错误不能立即抛出（会中断 collectives），通过 `all_gather_object` 聚合后再统一失败，是一个可复用的模式。dtype 映射表的做法（safetensors 不暴露 torch dtype 编码器）也值得注意。建议关注点：移除 fallback 后的兼容性边界、未来新 dtype 的扩展点、以及错误聚合的通信开销。

policy 前向保留模型精度，按块上转 FP32 省显存

值得精读。核心看点是“延迟上转”模式：把整张 logits 的 FP32 物化推迟到 chunk 粒度，配合 Megatron `fp32_output` 开关实现显存近一个数量级的下降；另一个值得借鉴的细节是把温度缩放放到 FP32 上转之后再做，避免模型精度下的舍入误差，并用 atol=1e-6 的等价性测试固化。fp16 placeholder 的 `sum(dtype=torch.float32)` 防溢出写法也建议在其它 loss 占位处复用。若团队后续要统一 1F1B 路径，可参考本 PR 的 `fp32_output` 透传设计。

CSR 采样掩码表示与 rollout→trainer 传输契约落地

值得精读。重点学习两点：一是 codec 中通过 `ROLLOUT_SAMPLING_MASK_FIELDS` 从默认 allowlist 排除新字段、保持 payload 字节级向后兼容的策略；二是 CSR 掩码完整生命周期管理（append 校验、prefix 截断、merge 补观察 token、reset 清空）。建议合入前确认工具调用路径的强制 token 掩码覆盖，并在 #2596 落地 e2e 后回看数据流完整性。

新增 Anthropic 会话验证与 SGLang 契约闸门

值得精读。三个设计点最有价值：一是硬/软失配的分层判定配合 sidecar 日志，解决"rollout 重试吞掉验证失败"的经典问题；二是用配对 checkout 把上游外部 PR 不跑的 CPU 套件搬进自家 CI，形成行为保持闸门；三是端口独立分配对并发部署的改进。阅读时注意临时闸门的清理时机与 Qwen3.6 阈值放宽的后续收敛。

端口与并发数解耦，新增 workers 参数

值得精读。这是一个有清晰设计意图的破坏性 CLI 重构：默认 32 workers 的取舍、拒绝旧语法而非兼容、TODO(#1837) 标记临时端口分配，都体现了对“配置属主唯一”和“迁移可见性”的坚持。建议重点关注 _resolve_session_server_ports 的实现与 review 中未解决的连续端口占用问题，后续很可能被 #1837 的统一端口分配重构取代。