Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-04-20 18:47 同步状态:空闲 下次计划:2026-04-20 19:47

PR 列表

已合并 984 · 已分析 984
更多筛选
2026-04-03
缺陷修复 重要性 6.00 洞察度 5.00

修复函数调用 JSON 模式中 maxItems=1 限制导致的模型停滞问题。

该 PR 值得精读,特别是设计决策如何通过 parallel_tool_calls 参数平衡灵活性与控制,以及 JSON 模式生成的修改方式,展示了 API 兼容性与功能修复的结合。

#21633 [Diffusion][NPU] Add support for MOVA

原始 PR · 作者 LLThomas · 合并时间 2026-04-03 10:33

功能 重要性 6.00 洞察度 6.00

为MOVA扩散模型添加NPU硬件支持,优化RoPE和内存格式兼容性。

建议涉及NPU开发或Diffusion模型的工程师精读此PR,关注平台检测设计(如current_platform.is_npu)、RoPE优化策略(torch_npu.npu_rotary_mul集成)以及如何处理硬件不兼容性(如channels_last_3d和complex128临时修复)。这些设计决策值得学习,以应对类似跨平台支持场景。

基础设施 重要性 3.00 洞察度 2.00

为扩散模型CI中的Slack上传添加超时设置,防止网络问题导致CI卡死。

该PR实现简单直接,适合快速浏览了解CI稳定性改进。值得关注的是超时值的选取逻辑(30秒用于下载,60秒用于API调用)以及这种配置如何平衡可靠性与响应速度。

缺陷修复 重要性 5.00 洞察度 4.00

跳过损坏的AutoModel映射条目以修复Llava多模态模型加载失败。

建议工程师精读此PR,特别关注异常处理的设计权衡(如限制workaround范围)和测试策略(避免脆弱实现)。对于处理外部依赖损坏条目的类似问题,可借鉴此处的条件捕获和日志记录模式。

基础设施 重要性 3.00 洞察度 2.00

清理CI测试套件中过时的Ascend NPU条目,修复XPU CI检查失败。

该PR变更简单直接,适合快速浏览以了解CI套件清理模式。值得关注的是如何通过__not_in_ci__处理遗留文件,以及sanity check机制对文件存在性的依赖。

功能 重要性 7.00 洞察度 6.00

添加基于Transformers的通用建模后端,支持TP、PP、MoE、多模态和torch.compile,扩展SGLang模型兼容性。

建议工程师精读此PR以理解Mixin架构设计和模型加载的通用化方法;重点关注TransformersBase的模块替换逻辑、AutoWeightsLoader的权重分发机制以及多模态处理器的自适应策略;同时注意review中提出的风险点,如测试覆盖和错误处理,在类似开发中加以改进。

功能 重要性 7.00 洞察度 6.00

为 MUSA GPU 添加基于 MATE 的 FA3 注意力后端支持。

建议技术管理者和工程师精读此 PR,以了解 MUSA 硬件集成策略。重点关注 `get_flash_attention_context` 方法和调度元数据注入机制的设计决策,以及 review 中关于性能与抽象的权衡讨论。对于涉及多平台支持的开发者,可参考此 PR 的 vendor-isolated 模式。

#21570 [4/n] Support gpt oss 20b lora

原始 PR · 作者 yushengsu-thu · 合并时间 2026-04-03 03:57

功能 重要性 6.00 洞察度 6.00

为 GPT-OSS-20B 模型添加 LoRA 支持,并引入严格 CI 测试。

建议技术管理者和工程师精读此 PR,特别关注 `layers.py` 中的 bias 处理逻辑和 MoE 支持实现,这些设计决策对分布式训练和推理有重要影响。同时,应评估 Copilot 提出的兼容性风险,并计划在后续 PR 中修复。

参与讨论