Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 00:08 同步状态:空闲 下次计划:2026-09-03 01:08

PR 列表

更多筛选
2026-07-24
缺陷修复 重要性 8.36 洞察度 6.00

修复 PD staging buffer 泄漏与注册竞争等健壮性问题

此 PR 值得精读,尤其 `release_room` 的设计体现了失败路径中资源清理的严谨思考,权衡了同步开销与数据安全。注册顺序调整解决了一个微妙的推拉竞争条件。建议关注第二部分 [2/2] RadixCache 的后续演进。

功能 重要性 8.74 洞察度 6.00

使 EAGLE 验证阶段使用确定性种子硬币,实现推测解码可重现

本 PR 是 kimi-deterministic 系列的核心部分,值得精读。关键设计决策(哈希替代随机、浮点边界 clamp、列空间契约)展示了对采样内核确切行为的细致验证。建议阅读时关注 `_seeded_verify_coins` 的实现和测试文件中的结构化哈希验证方法,这对于构建确定性采样逻辑具有通用借鉴价值。同时注意配套的 MLP-sync 和 FA4 修正是确保整体确定性的必要前提。

缺陷修复 重要性 5.65 洞察度 3.00

修复 XPU platform 测试在无 XPU 设备上失败

建议所有维护者合入此修复,以解除 CI 阻塞。该 PR 本身无需精读,但其所用的 `patch.object` + `create=True` 模式值得在跨平台测试中推广,以避免因可选依赖缺失导致的导入错误。

缺陷修复 重要性 6.48 洞察度 5.00

修复 multi-tokenizer PD 下 engine_type 标签为 unified 的问题

值得阅读,因为它展示了如何通过参数化设计替代临时的配置 hack,增强代码可维护性。对于涉及初启动流程依赖 server_args 的场景有参考价值。

参与讨论