Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 00:08 同步状态:空闲 下次计划:2026-09-03 01:08

PR 列表

更多筛选
2026-05-11

#24540 [NPU] [Bugfix] Wan quantization fix

原始 PR · 作者 OrangeRedeng · 合并时间 2026-05-11 13:32

缺陷修复 重要性 7.57 洞察度 5.00

修复 Wan 模型在 NPU 上的量化方案识别

该 PR 修复了关键 regression,改动虽小但涉及核心量化配置路径,值得精读。设计上通过 reverse_param_names_mapping 解耦内部命名与规范命名的做法值得关注,可在未来支持更多量化模型时复用。

#24662 Breakable Cuda Graph Support for bs > 1

原始 PR · 作者 Oasis-Git · 合并时间 2026-05-11 13:28

功能 重要性 7.90 洞察度 6.00

支持 bs>1 的可中断 CUDA 图执行

值得精读。该 PR 体现了深刻的技术洞察:通过重新划定 CUDA 图捕获边界,使图与 batch size 解耦,是使图化预填充支持多请求的关键设计。代码改动简洁(仅 1 文件 +84/-57),但思路值得借鉴。建议关注后续改进 layer_model 解析的多模型兼容性和测试覆盖。

缺陷修复 重要性 4.53 洞察度 3.00

修复 CI 中 sgl-kernel-mla-test 路径错误

建议快速合并此 PR,因为它修复了阻塞所有 PR 的 CI 回归问题。同时值得关注的是优化路径过滤的设计决策:避免纯配置变更触发昂贵构建,这是一个良好的 CI 实践。

缺陷修复 重要性 5.12 洞察度 3.00

修复 Flashinfer A2A 调度中 padding slot 导致的 NaN

该 PR 为典型的单行关键 bugfix,推荐阅读以理解 A2A 调度中 padding slot sanitize 的必要性。设计上的教训是:新参数默认值应为安全值(如 -1),而不是跳过清理。值得关注的决策:通过修改 dispatch 调用而非修改 dispatcher 内部逻辑,保持了最小侵入性。

缺陷修复 重要性 4.71 洞察度 4.00

修复 AMD CI DSv4 参数回退和 cron 续跑问题

推荐 AMD 和 CI 维护者关注本次 continue-on-error 条件的设计模式(`github.event_name == 'schedule'`),以及跨分支配置兼容性处理。对于其他硬件后端,可借鉴类似的条件感知方式。本 PR 改动直观、测试充分,值得精读。

#24876 [Docs] Add MiniCPM-V 4.6 cookbook

原始 PR · 作者 AgainstEntropy · 合并时间 2026-05-11 12:32

文档 重要性 7.33 洞察度 5.00

添加 MiniCPM-V 4.6 cookbook 文档

值得阅读,尤其是交互式 Deployment 组件的实现方式可作为后续文档交互模式的参考。设计决策(如按硬件区分 attention backend、reasoning parser 与 tool call parser 的组合逻辑)清晰反映了 SGLang 对多模态模型实际部署的推荐配置。

参与讨论