Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

model-gateway 相关 PR

2026-09-01
缺陷修复 重要性 3.66 洞察度 6.00

wfaas 钉版升至 1.0.2,修复 ContinueNextStep 依赖死锁

值得精读,但重点不在代码而在方法:PR body 对 wfaas 调度器 bug 的根因追踪(tracker 记录与调度器信号两个状态源的错位、workflow 形状分析、生产影响还原)是教科书级的依赖 bug 分析;审核人的独立验证和“触发条件比描述更窄”的纠正也展示了良好的协作模式。可关注的设计决策包括:在精确钉版纪律内选择最小修复版本、用判别性测试矩阵双向验证 pin 版本、以及如何为钉版依赖建立定期回访机制(如 Dependabot 或专门巡检)。建议后续跟进把判别测试入库,并评估 1.1.0 与 #32322 的落地。

2026-08-28
缺陷修复 重要性 6.08 洞察度 3.00

XPU 上延迟导入 tvm_ffi 相关 all_reduce 内核,修复 MiniMax M2 模型加载崩溃

该 PR 简单且低风险,值得快速合并。不建议精读,但可关注 XPU 平台支持的类似模式,作为后续其他模型在 XPU 上兼容性修复的参考。

缺陷修复 重要性 6.29 洞察度 4.00

为 KimiK3 声明 packed_modules_mapping,修复量化 exclude 匹配

该 PR 虽小,但属于数据契约修正,值得精读以理解 packed_modules_mapping 的约定,并可作为其他模型类补充映射的参考。建议关注后续是否有相关测试补充。

2026-08-26

#36255 config: ServerArgs holds the raw input

原始 PR · 作者 ch-wan · 合并时间 2026-08-26 20:14

重构 重要性 8.68 洞察度 7.00

ServerArgs 只存原始输入,解析决议改走声明与投影

值得精读:这是 SGLang 配置解析从『可变混合体』转向『不可变原始输入 + 声明式决议』的收尾 commit,`replace_resolved` 与 AST 派生测试的设计有较强借鉴价值。合并后建议优先跟进 Codex 提出的网关 DWDP(P1)与旧 wheel 兼容(P1)两个问题,并排查其余 P2 读端点。

重构 重要性 8.96 洞察度 7.00

resolution 链读取改走声明 stash,ServerArgs 回归原始输入

值得精读。重点看 `ResolvingConfig` 与 `ResolvedView` 的分工、声明 stash newest-first 遍历的语义,以及"先迁移读取、后翻转写入"的双阶段策略——这是把命令式副作用逐步改造成声明式决议的示范性做法。若团队后续要做类似的配置系统演进,可直接借鉴其测试探针与 A/B 验证方法。

2026-08-24
缺陷修复 重要性 6.69 洞察度 6.00

修复 mini-lb 转发 flush_cache 的 timeout 参数,恢复延迟排空路径

PR body 值得精读:对"参数丢弃 → scheduler 立即 flush → KV 释放 → Mooncake 单次失败永久拉黑"的跨层根因分析是高质量排障范例,量化数据(12 次真实失败放大为约 1465 个请求失败,吞吐 2,039→9,994 tok/s)很有说服力。作者主动更正 PR 归因的严谨做法也值得参考。代码本身仅 8 行改动、阅读成本极低;管理上应跟进三个遗留项:#36152 的真实修复、Rust router 同缺陷、Mooncake 黑名单与恢复探针策略。

2026-08-20
2026-08-18

#35028 config: one control-plane log for the process

原始 PR · 作者 ch-wan · 合并时间 2026-08-18 07:19

重构 重要性 7.50 洞察度 7.00

tokenizer 配置日志并入进程级 override,新增 config_leaf 读侧

值得精读,重点看三个设计决策:一是 `config_leaf()` 作为 `override()` 读侧的对称设计——读写共用 `namespace_of` 映射,调用者持字段名即可解析;二是 `model_path` / `served_model_name` 留在 manager 而非写 bag 的跨进程权衡;三是 `test_supplied_instance_exposure_ratchet.py` 的 AST 静态审计如何把 `record_config_updates` 包装器与循环变量键纳入解析,这类「防漂移 ratchet」写法对大型 Python 代码库的配置机制很有借鉴价值。