Prhub

radixark/miles

Miles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.

监控状态:已开启 最近同步:2026-09-17 11:45 同步状态:空闲 下次计划:2026-09-17 12:45

PR 列表

更多筛选
2026-09-01
缺陷修复 重要性 6.88 洞察度 6.00

Rollouts 标签落在首个可读 step,修复实时点击报错

值得精读。改动虽小但完整呈现了一个前端修复的工程方法论:先枚举全部失败形态再决定统一处理策略(threw 与 empty 同等对待)、为回退探测设置语义边界(5 步后停止并暴露真实错误)、处理异步间隙的竞态守卫、考虑历史栈与重试预算。“有界回看 + 显式请求不重定向”的组合对同类 dashboard 导航很有借鉴意义。若后续要为 dashboard 前端补测试设施,本 PR 的 Playwright 验证矩阵(3 种 dump × 4 种检查)是现成的回归用例清单。

功能 重要性 9.36 洞察度 6.00

DSv4 双后端可选,对齐 Megatron 权重契约,恢复训练

值得精读。该 PR 展示了三类可借鉴的设计决策:一是用显式 raise 替代静默 fallback,杜绝用户不知情的实现漂移;二是通过统一 checkpoint 命名契约让两种实现共享同一数据源,并用 `assert_checkpoint_is_current` 做防御性拒绝;三是利用已有的原子更新组把分散参数在导出时重新聚合(`_packed_alphas` 的 bucket 传递),是分布式 checkpoint 转换中优雅的处理方式。PR body 中关于 tid2eid、SwiGLU clamp、MTP replay 等调试细节也极具参考价值。

#2791 test(tito): use FP8 Qwen3.6 checkpoint

原始 PR · 作者 guapisolo · 合并时间 2026-09-01 04:13

测试 重要性 3.46 洞察度 2.00

Qwen3.6 会话测试改用 FP8 检查点,验证目标不变

该 PR 不值得精读,可快速合并。值得注意的设计原则是“验证目标优先于 artifact 选择”——在 CI 面上用更轻量的检查点保持等价覆盖,而非削弱验证范围。若想理解 TITO Qwen3.6 支持的全貌,建议阅读上游 PR #2759(引入 tito_tokenizer、qwen3.6_fixed.jinja 模板与 test_qwen36.py)。

功能 重要性 6.93 洞察度 5.00

Qwen3.8 系列新增双 TITO 家族名共享固定渲染模板

值得精读,重点看三处设计决策:(1) 两个公共枚举映射到同一个 tokenizer 类的工厂写法,如何避免复制 renderer;(2) 固定默认 reasoning 模式并显式拒绝冲突 kwargs 的保护机制,防止缓存前缀静默失配;(3) FIXME 驱动的临时行为显式化,为后续 request-argument 优先级重构留出清晰的演进路径。若团队要新增类似“共享序列化契约、不同公共名”的模型家族,可直接复用本 PR 的模式。

#2653 Stream optimizer main initialization to NVMe

原始 PR · 作者 zianglih · 合并时间 2026-09-01 02:57

功能 重要性 7.13 洞察度 6.00

将 Adam/DistributedOptimizer 的主参数初始化过程流式写入 NVMe,实现内存占用的有界增长。

该 PR 是一个有价值且经过深思熟虑的性能优化。**强烈建议精读** `initialize_main_from_model_params` 方法的实现,其设计清晰地展示了如何利用张量元数据和直接文件 I/O 来实现有界内存初始化,是处理大规模张量初始化的一个优秀范例。关注与 Muon 路径的隔离以及峰值内存的边界条件。对于从事分布式训练、优化器实现或内存优化的工程师,这个 PR 具有很高的参考价值。

缺陷修复 重要性 7.70 洞察度 5.00

disk-delta 基线校验张量 dtype/形状,拒绝非规范布局

值得精读。核心设计是“规范化校验前置 + 集合通信错误同步”:在分布式训练中,source rank 的校验错误不能立即抛出(会中断 collectives),通过 `all_gather_object` 聚合后再统一失败,是一个可复用的模式。dtype 映射表的做法(safetensors 不暴露 torch dtype 编码器)也值得注意。建议关注点:移除 fallback 后的兼容性边界、未来新 dtype 的扩展点、以及错误聚合的通信开销。

2026-08-31
{'type': 'object', 'additionalProperties': False, 'properties': {'pr_type': {'type': 'string', 'enum': ['feature', 'bugfix', 'refactor', 'performance', 'infra', 'docs', 'test', 'other']}, 'summary_short': {'type': 'string'}, 'summary_long': {'type': 'string'}, 'motivation': {'type': 'string'}, 'implementation_overview': {'type': 'string'}, 'discussion_highlights': {'type': 'string'}, 'risk_analysis': {'type': 'string'}, 'impact_analysis': {'type': 'string'}, 'recommendation': {'type': 'string'}, 'importance_score': {'type': 'number', 'minimum': 0, 'maximum': 10}, 'insight_score': {'type': 'number', 'minimum': 0, 'maximum': 10}, 'tags': {'type': 'array', 'items': {'type': 'string'}}, 'key_files': {'type': 'array', 'items': {'type': 'object', 'additionalProperties': False, 'properties': {'path': {'type': 'string'}, 'reason': {'type': 'string'}, 'status': {'type': ['string', 'null']}, 'importance_score': {'type': ['number', 'null']}, 'module': {'type': ['string', 'null']}, 'module_label': {'type': ['string', 'null']}, 'category': {'type': ['string', 'null']}, 'change_kind': {'type': ['string', 'null']}, 'changed_symbols': {'type': 'array', 'items': {'type': 'string'}}, 'source_summary': {'type': ['string', 'null']}, 'annotated_snippet_markdown': {'type': ['string', 'null']}}, 'required': ['path', 'reason', 'status', 'importance_score', 'module', 'module_label', 'category', 'change_kind', 'changed_symbols', 'source_summary', 'annotated_snippet_markdown']}}, 'key_functions': {'type': 'array', 'items': {'type': 'string'}}, 'key_threads': {'type': 'array', 'items': {'type': 'object', 'additionalProperties': False, 'properties': {'topic': {'type': 'string'}, 'category': {'type': 'string'}, 'discussion': {'type': 'string'}, 'conclusion': {'type': 'string'}, 'status': {'type': 'string'}, 'location': {'type': ['string', 'null']}, 'importance_score': {'type': 'number', 'minimum': 0, 'maximum': 10}}, 'required': ['topic', 'category', 'discussion', 'conclusion', 'status', 'location', 'importance_score']}}, 'related_prs': {'type': 'array', 'items': {'type': 'object', 'additionalProperties': False, 'properties': {'number': {'type': 'integer'}, 'title': {'type': 'string'}, 'reason': {'type': 'string'}}, 'required': ['number', 'title', 'reason']}}, 'risk_flags': {'type': 'array', 'items': {'type': 'string'}}, 'final_report_markdown': {'type': 'string'}}, 'required': ['pr_type', 'summary_short', 'summary_long', 'motivation', 'implementation_overview', 'discussion_highlights', 'risk_analysis', 'impact_analysis', 'recommendation', 'importance_score', 'insight_score', 'tags', 'key_files', 'key_functions', 'key_threads', 'related_prs', 'risk_flags', 'final_report_markdown']} 重要性 5.71 洞察度 0.00

参与讨论