Prhub

radixark/miles · 标签视图

标签列表

聚合结果

dp-attention 相关 PR

2026-08-13

#2023 dashboard: dp-aware engine metrics

原始 PR · 作者 yueming-yuan · 合并时间 2026-08-13 02:13

功能 重要性 8.75 洞察度 7.00

引擎指标按 dp rank 正确折叠聚合,新增不均衡告警

值得精读。核心看点:(1) 指标聚合时机——折叠必须早于 rate/mean 派生,否则跨 rank diff 全是垃圾值;(2) 强度型 vs 累计型指标的差异化聚合(均值 vs 求和);(3) 告警与运行配置联动的 _dp_spread_hint 设计,让告警直接指出当前 run 真正生效的开关;(4) 与 #2022 全窗口缓存合并时把缓存键升级为 (metric, per_dp_rank) 的并发正确性处理。tests/fast/dashboard/test_engine_dp.py 是这套聚合语义的极好文档,值得作为后续指标聚合改动的测试模板。

2026-08-01
缺陷修复 重要性 6.94 洞察度 5.00

修复 dp-aware 路由下 abort 无法触达引擎

值得精读。PR 展示了一个典型的路由身份与可寻址地址混淆的排查过程:从失败日志反推 URL 解析行为,对照 router 内部 `base_url()` 语义,最后用一个小而精确的工具函数统一修复。关注 `router_worker_base_urls` 的「仅剥离数字后缀」设计与去重逻辑,可作为后续库内地址归一化基础设施的参考。

2026-07-31
功能 重要性 6.16 洞察度 4.00

开启 dp-attention 时自动启用 dp-aware 路由

PR 虽然只有 3 行源码 + 28 行测试,但值得精读:PR body 提供了完整的生产故障分析(GLM-5.2 744B 上 dp rank 排队与超时数据),展示了如何把线上指标转化成一行默认行为修改;默认开启而非新增开关的设计取舍也值得借鉴。建议重点看 validate_args 的参数编排位置与测试中手动补齐 RouterArgs 字段的做法。