Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

router 相关 PR

2026-09-15
重构 重要性 9.07 洞察度 8.00

Router 选路阶梯抽取为 policies::selection 模块

值得精读,但建议把注意力放在第二个 commit 而非体量最大的搬迁 commit:先看 `Selector` 结构体如何取代 `Cell`、`select_prefill_worker` 用 `ok_or(failure_reason)` 把 `Option` 收口成 `Result`,再看 5 个阶梯级测试如何用 mutation check 锁住容量兜底语义。值得借鉴的设计决策包括:为不再需要闭包的场景把"偷带值"的 Cell 换成显式状态结构体;接受 prefill/decode 签名不对称(`Result` vs `Option`)而不是为对称造错误类型;把两条阶梯放在同一模块以获得"一屏可见的不对称"。评审时建议额外确认第二个 commit 中 domain 惰性物化是否改变了任何副作用时机。