Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

grpc 相关 PR

2026-08-22
缺陷修复 重要性 4.92 洞察度 4.00

修复 gRPC 流式请求在归一化前取字段导致的崩溃

值得精读。虽然改动只有几行,但它揭示了异步生成器初始化与请求归一化之间的隐性时序契约,以及“循环不变量上提”这类清理操作可能引入的回归模式。对入口层、gRPC bridge 或异步流水线的维护者尤其有参考价值。

2026-08-05
功能 重要性 9.00 洞察度 6.00

gRPC 增加生成控制,并重构 n>1 并行采样 RID 生命周期

值得精读两个层面:一是 `request_utils.rs` 中 proto → GenerateReqInput 的映射与校验(特别是 choices 转义、unset/false 区分、legacy 兼容),这是 gRPC 桥接层值得复用的范式;二是 merrymercy 的 post-merge review 与 #34160 回滚,作为"过度工程化"的反面教材——面对边缘场景应先评估调度器已有能力(如 startswith RID 匹配)。不建议在新代码中沿用本 PR 的 lifecycle 机制。

2026-07-08