SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 yctseng0211 · 合并时间 2026-05-21 11:51
校准 AMD EAGLE3 测试阈值并延长采样窗口
建议合入。该 PR 针对 AMD CI 回归问题提供了合理且最小侵入的校准方案，在保留测试覆盖率的同时适应平台差异。值得关注的决策：`is_in_amd_ci()` 条件分支适配策略，可作为跨平台 CI 测试参数化的参考模式。
添加可覆盖钩子支持自定义 Chat Serving 实现
该 PR 体现了良好的开闭原则设计，值得开发扩展 OpenAI API 实现的团队精读。Review 中的讨论展示了如何通过保护的钩子位置和参数类型避免回归。建议关注 sse_utils.py 的模块化设计和协议接口的使用。
修复 EPD 模式下 Qwen3VL MoE 权重加载崩溃
值得快速合并，修复明确且安全。建议关注 MoE 子类是否还有其他未对齐父类防护的模式，可系统审计 `qwen3_vl_moe.py` 中其他可能直接访问 `self.model` 的位置。
升级 cutlass-dsl 至 4.5.1 并添加 CUDA 13 额外依赖标记
该 PR 是一个常规依赖升级，架构影响极小，但关联了 B300 硬件兼容性问题。建议结合 PR #25564 和后续的 `pyproject.toml` 重构一同追踪。对于主要使用 CUDA 12 的用户，可留意后续是否引入条件化依赖机制。
升级 triton-xpu 至 3.7.1
该 PR 是简单的依赖升级，无需精读。可关注的点：正式索引和测试索引的 URL 变化，以及版本锁定的实践，适用于其他依赖管理场景。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-21 10:28
修复 cherry-pick 工作流 git push 权限问题
PR 修复清晰且必要，建议尽快合并。同时建议仓库管理员按照 PR 描述中的指引创建 `GH_PAT_FOR_CHERRY_PICK` 密钥。
修复 rustfmt 行长度警告
可直接合并。该 PR 是纯代码风格修正，无需特别关注设计决策或深度审查。
原始 PR · 作者 silencejade · 合并时间 2026-05-21 10:02
新增 Qwen3.5-397B-A17B 在 Ascend NPU 上的最佳实践文档
阅读建议：对于在 Ascend NPU 上部署大模型的用户，可参考此文档获取已验证的配置参数；对于贡献者，应关注 review 中提出的名称一致性问题，避免类似疏忽。
参与讨论