Prhub

radixark/miles

Miles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.

监控状态:已开启 最近同步:2026-09-17 11:45 同步状态:空闲 下次计划:2026-09-17 12:45

PR 列表

更多筛选
2026-08-24
功能 重要性 8.31 洞察度 5.00

新增 DSV4-0731 支持与 MXFP4→FP8 转换器

值得精读,重点看 cast_e2m1fn_to_e4m3fn 的无损转换实现、e8m0fnu→float32 兼容处理,以及 rematerialize 对冻结参数的备份修复。若团队后续要接入其他 MXFP4 官方发布,可直接复用该转换器模式。

功能 重要性 9.15 洞察度 7.00

新增采样支持 log-prob 原语,为 on-policy 归一化铺路

值得精读,重点看三处设计决策:(1)`RolloutSamplingMask` 为什么用 CSR 而非嵌套结构——这是「逻辑模型 vs 传输模型」权衡的典型范本;(2)`_apply_sampling_mask` 的 inplace 与非 inplace 分流,以及 true-on-policy 下 log-prob 用 mask 而 entropy 保持全 vocab 的语义对齐;(3)`_iter_response_chunks` 如何在不破坏旧契约的前提下为 CP 各模式补充全局响应索引。建议与 #2595、#2596 一起阅读以还原完整功能闭环。

基础设施 重要性 7.50 洞察度 6.00

/rerun-test 反馈升级:同一条评论从 running 原地更新到终态

值得精读。该 PR 虽然只涉及 CI 基础设施,但其设计决策具有可迁移性:状态评论的 ownership 归属(run 自持而不是 gateway 代发)、comment ID 跨 job 传递、`always()` finalizer 汇总多 job 结果、以及结果映射的 fail-closed 语义,都是构建可靠的 PR 评论机器人的良好范本。尤其推荐关注 `_file_run_status_inputs` 的严格入参校验与 `_file_run_outcome` 的终态映射,这两处体现了“宁可报失败也不静默”的工程原则。

2026-08-23

#2716 fix: align MLA RoPE types with model configs

原始 PR · 作者 zyzshishui · 合并时间 2026-08-23 19:14

缺陷修复 重要性 5.06 洞察度 5.00

为 GLM-4.7-Flash 与 JoyAI-LLM-Flash 显式声明 plain RoPE,修复 MLA 误用 YaRN

值得精读,尤其适合关注模型配置契约与训练框架隐式默认值交互的读者。本 PR 虽然只有 +12 行的最终改动,但完整呈现了一个隐蔽的配置错配 bug 的根因链条:模型定义遗漏参数 → 参数加载原样传递 → Megatron 侧隐式兜底 → 运行时构造错误的嵌入实现。值得借鉴的两个设计决策:一是“显式优于隐式”,在框架存在默认值填充逻辑时,模型定义应显式声明;二是合并前的 split-scope 纪律,未验证的 GLM-5 部分被果断剥离,避免把不确定性的风险带入主分支。

功能 重要性 9.36 洞察度 9.00

新增 RDT/NIXL GPU 零拷贝权重同步传输

值得精读,尤其是 `miles/backends/megatron_utils/update_weight/update_weight_from_rdt.py` 与 `miles/ray/rollout/sglang_server_actor.py`:前者给出了“固定 bucket + 视图重定向 + 终身 NIXL 注册 + 分轮 flush”这一套内存受限零拷贝发布范式,后者演示了如何用同 job 子 actor 规避跨 job named actor 发现。建议关注三个设计决策:一是 `expandable_segments` 与 CUDA-IPC/NIXL 的性能悬崖(约 0.3 GB/s vs 约 150 GB/s,是全 PR 最有价值的工程洞察);二是 bucket 终身注册反过来约束了应对超大参数的策略(先扩容、再分轮);三是 max_concurrency 提升与 FT concurrency group 的相互作用。对不打算启用 rdt 的读者,重点是确认 rdt 特化的 PG 排序、`num_gpus_per_actor` 分支与环境变量注入不会污染默认路径;同时应跟踪三个未闭合项:ray/mp 后端校验、异质 engine count 的 per-engine 计划、以及 actor 化后的一致性清理与容错。

2026-08-22
功能 重要性 8.43 洞察度 6.00

Dashboard 新增 AMD SMI 遥测,NVML 优先自动回退

值得精读,尤其是 Provider 抽象、单位差异处理与降级语义的设计:`_AmdSmiProvider` 与 `_NvmlProvider` 共享同一接口而实现细节差异被干净隔离,`_amd_socket_power` 对多代 ROCm 字段兼容的思路可复用于其他硬件平台。创建类似硬件适配层时可参考本 PR 的 importlib 延迟导入与 `sys.modules` 打桩测试方式。

2026-08-21
基础设施 重要性 5.67 洞察度 6.00

ROCm CI 支持按 PR 指令覆盖镜像内置依赖

值得精读,重点是两个 workflow 文件的设计:用独立 resolver 作业做门控与布尔透传;覆盖策略“只替换命名的依赖,未命名保持镜像基线”避免意外漂移;Megatron patch 三状态探测与 fail-closed 保护。若后续要扩展 PR 指令体系,可参考此 PR 的 seam 测试与验证方法(scratch 提交 + 空提交重触发),以及 PR body 指令跨工作流消费的副作用教训。

参与讨论