Prhub

radixark/miles

Miles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.

监控状态:已开启 最近同步:2026-09-17 11:45 同步状态:空闲 下次计划:2026-09-17 12:45
后台正在同步并分析最近 PR,页面会自动刷新并逐步显示最新结果。

PR 列表

更多筛选
2026-08-04

#2043 Compact NVFP4 BF16 MoE exclusion metadata

原始 PR · 作者 zianglih · 合并时间 2026-08-04 05:48

重构 重要性 5.71 洞察度 5.00

NVFP4 转换器压缩 BF16 MoE 排除项,冗余从 3571 降至 499

值得快速精读 `tools/convert_hf_to_nvfp4.py` 的 else 分支,理解“动态 BF16 层专家折叠为容器、同时保留层前缀与容器前缀”的取舍。对维护量化转换管线的同学有参考价值;注意测试当前被 CI 禁用,合并后建议留意后续启用时机。

#2122 [tml] Inkling native LoRA support

原始 PR · 作者 Zhichenzzz · 合并时间 2026-08-04 05:15

功能 重要性 9.36 洞察度 8.00

Inkling 原生 LoRA 支持:adapter-only GRPO 全链路打通

值得精读。重点关注三类设计决策:1) 插件式 LoRA 如何绕过 Megatron-Bridge 的 PEFT 集成,通过参数标签 + 显式梯度归约保证分布式正确性;2) _pp_assemble_full_adapter 与 _repack_onto_fresh_storage 解决的多维并行 + CUDA IPC 工程问题;3) SGLang 侧 lora_target_modules=["all"] 与 virtual-experts 的搭配。建议后续跟进 EP>TP 时 native shard 的加载验证、non-colocate 引擎的 LoRA 同步,以及 42/66 层真实配置的 CI 覆盖。

#1683 [tml] Inkling model support

原始 PR · 作者 Zhichenzzz · 合并时间 2026-08-04 04:59

功能 重要性 9.36 洞察度 7.00

Inkling 模型全参数 RL 支持,含多模态与启动器

值得精读。重点看三处设计:`ops.py` 与 sglang serving bit-identical 的 fp32 内核对齐策略、`layers.py` 在 CP/SP 下对 sconv 与相对位置偏置的处理、`model.py` 的异构 Dense/MoE 层结构与两个 provider 入口。Review 中发现的三个正确性 bug(fp32 masters 顺序、`no_grad` 范围、tower 同步 gate 失效)是多模态 + 权重同步组合场景的典型陷阱,可作为后续模型接入的检查清单。

重构 重要性 5.34 洞察度 3.00

移除 14 个启动器强制 --use-miles-router,默认走 sgl-router

值得快速浏览:它是理解 miles 路由演进与“如何用一个最小 diff 改变默认行为”的干净样例。重点可看作者的范围决策——不顺手删参数、不顺手删测试,而是把“移除标志”与“退役参数”两项决策解耦,避免一个看似无害的清理 PR 吞掉大量旧路径覆盖。若想进一步行动,可后续跟进 `arguments.py` 中 `--use-miles-router` 的正式退役,以及 3 个 e2e 测试对该标志的依赖清理。

#2031 feat(fsdp): add hybrid sharding

原始 PR · 作者 Rockdu · 合并时间 2026-08-04 03:45

功能 重要性 8.05 洞察度 6.00

FSDP 后端新增混合分片,配梯度一致性测试

值得精读。重点学习 `build_fsdp_meshes` 的 `_unflatten` 用法与"逻辑 DP 域不变、仅 FSDP 分片域切分"的设计取舍,以及梯度 parity worker 的三层断言方法(参考梯度对比、跨 rank bit-exact、权重还原)。建议关注 zhihengy 后续的 FSDP + CP 支持 PR,以及 `_unflatten` 在 PyTorch 升级后的兼容性。

2026-08-03
性能优化 重要性 8.89 洞察度 6.00

OPD top-k 打分稀疏化,响应降 22.9×

值得精读,尤其 `_per_position_ids` 的布局对齐设计(prompt 空槽 + 绝对位置索引复用 `_trim_input_field`)、`parse_teacher_urls` 的 fail-fast 风格、以及 reward 日志摘要模式。建议跟进 review 遗留问题:修复 `_post_json` 的 None 超时语义、确认 `--sglang-router-request-timeout-secs` 注册情况;若计划上线 `--opd-topk-per-position`,先确认 teacher/student 均为 patched 版本,并在小规模 rollout 上比对 flat 与 per-position 的 reward 一致性。

缺陷修复 重要性 5.90 洞察度 3.00

session 转发补 lora_path,LoRA 轨迹不再 off-policy

改动小、风险低、价值明确,建议合入。值得关注的有两点:一是与 `compute_request_payload` 的跨路径一致性做法;二是 `LORA_ADAPTER_NAME` 的注册与命名机制。后续建议为 `chat_completions` 的请求组装补充一条单测,覆盖 `is_lora_enabled` 开/关两种分支,避免回归。

#2047 fix glm47-flash: use paged MLA prefill on B200

原始 PR · 作者 guapisolo · 合并时间 2026-08-03 10:38

缺陷修复 重要性 4.92 洞察度 4.00

B200 上 GLM-4.7-Flash 改用 paged MLA prefill 修复 rollout

值得一读,但主要是启动器层面的硬件适配,不需要深挖核心库。可关注两个设计点:一是用「launcher 参数按硬件分支」而非改核心 backend 来规避硬件兼容问题,保持了核心库的整洁;二是显式保留 `sglang_attention_backend` 透传口子,给用户留了绕过默认路径的逃生舱。后续建议在 sglang 升级时重点回归 B200 的 MLA prefill 路径。

参与讨论