Prhub

radixark/miles · 标签视图

标签列表

聚合结果

routing 相关 PR

2026-08-13
功能 重要性 9.18 洞察度 7.00

新增可配置的会话重放匹配,支持三种内置策略

值得精读。三个看点:一是 JSON 对象等价的类型打标设计(`true` vs `1`、大数精度、重复键/NaN 拒绝、递归深度回退),边界考虑细致且测试充分;二是 effective history 的“存储拼写优先”语义,以及 Shi-Dong 补上的 v1 提交修复,是数据一致性上的关键决策;三是“先回退大 PR、收窄后重做”的工程实践。若计划在生产启用 `loose_tool_call` 或 `role_content_only`,建议先读 `docs/user-guide/customization.md` 的风险模型,并对自定义 matcher 先做小流量验证。

#2023 dashboard: dp-aware engine metrics

原始 PR · 作者 yueming-yuan · 合并时间 2026-08-13 02:13

功能 重要性 8.75 洞察度 7.00

引擎指标按 dp rank 正确折叠聚合,新增不均衡告警

值得精读。核心看点:(1) 指标聚合时机——折叠必须早于 rate/mean 派生,否则跨 rank diff 全是垃圾值;(2) 强度型 vs 累计型指标的差异化聚合(均值 vs 求和);(3) 告警与运行配置联动的 _dp_spread_hint 设计,让告警直接指出当前 run 真正生效的开关;(4) 与 #2022 全窗口缓存合并时把缓存键升级为 (metric, per_dp_rank) 的并发正确性处理。tests/fast/dashboard/test_engine_dp.py 是这套聚合语义的极好文档,值得作为后续指标聚合改动的测试模板。

缺陷修复 重要性 6.95 洞察度 4.00

修复 dashboard 引擎指标静默缺失,默认抓取改为 DIRECT

值得精读,尤其适合了解观测链路问题定位方式。看点有二:一是 PR body 中先在真实 16 节点 run 上实测确认端口与 payload 双重错配,再据此决策默认值,是典型的证据驱动修复;二是把混合测试拆成 auto/显式 router/repoint 三组,让模式解析与重指向行为各自可回归,值得在类似配置解析代码中复用。

2026-08-12
功能 重要性 8.53 洞察度 6.00

in_place 模式下按增量请求并拼接 R3,削减多轮重复传输

值得精读。核心设计是『把 R3 看作严格 append-only patch 流』:checkpoint 长度作为严格边界、普通 merge 决定物化前缀、LCP 仅作 sanity assertion,三者职责清晰;测试金字塔完整(e2e oracle 逐字节比对 + fast 单测覆盖分支/截断/异常),对做长会话 RL 训练或 session 服务化的同学有直接参考价值。

2026-08-08
基础设施 重要性 3.98 洞察度 3.00

禁用两个过时 SGLang E2E,释放 GPU CI 容量

这是一个小而清晰的 CI 用例管理 PR,值得花费几分钟了解 `register_cuda_ci` 的 `disabled` 语义:通过保留注册+禁用原因字符串的方式管理退役用例,比直接删除文件更利于审计与复启。若有类似“淘汰测试套件”的需求,可作为团队范本参考。

功能 重要性 9.18 洞察度 7.00

FSDP 后端新增 R3 路由重放,覆盖三种 MoE 架构

值得精读。设计文档质量很高:适配器模式把架构差异收敛到 `RoutingReplayAdapter`,按全局 decoder 层索引而非 MoE 序号注册流是正确的数据契约,梯度检查点下 forward/backward 双游标嵌套是值得借鉴的模式。若后续要扩展新 MoE 架构或维护 FSDP 训练正确性,本 PR 是必读参考;同时建议关注 `--ci-test` 之外的重放校验手段。

2026-08-07
缺陷修复 重要性 5.43 洞察度 4.00

保存并恢复 routing-replay 状态,修复 critic 崩溃

值得精读:这是一个典型的进程级单例状态污染 bug,展示了隐式全局状态在 actor/critic 双角色下的陷阱。建议关注 `model_provider` 中状态括号的写法,并考虑后续补组合回归测试。

2026-08-04
重构 重要性 5.34 洞察度 3.00

移除 14 个启动器强制 --use-miles-router,默认走 sgl-router

值得快速浏览:它是理解 miles 路由演进与“如何用一个最小 diff 改变默认行为”的干净样例。重点可看作者的范围决策——不顺手删参数、不顺手删测试,而是把“移除标志”与“退役参数”两项决策解耦,避免一个看似无害的清理 PR 吞掉大量旧路径覆盖。若想进一步行动,可后续跟进 `arguments.py` 中 `--use-miles-router` 的正式退役,以及 3 个 e2e 测试对该标志的依赖清理。