Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-01 17:58 同步状态:空闲 下次计划:2026-09-01 18:58

PR 列表

更多筛选
2026-08-25
缺陷修复 重要性 5.95 洞察度 5.00

修复 MiniCPM-SALA 配置读取对解析棘轮不可见的问题

该 PR 值得精读,因为展示了如何通过调整配置写入与读取方式来满足静态可分析性测试的要求,以及如何配套调整测试发布调度上下文。重点关注 `overrides.py` 中从循环到字面量键的重构思路,以及 `backend.py` 中统一读取路径的实践。

功能 重要性 8.75 洞察度 6.00

新增 PD 稳态吞吐基准模式,不改共享 serving 代码

中等优先级,值得精读。重点关注三点:一是零侵入集成模式——用 `inspect.signature().bind()` 包装 `serving.calculate_metrics` 采集数据而不改共享代码;二是事件扫描式稳态窗口算法与确定性 tie-break;三是基于 TTFT/ITL 的输出吞吐近似估算及其明确的局限性。对维护 `sglang.benchmark` 或做 PD 压测评估的工程师有直接参考价值。

性能优化 重要性 6.60 洞察度 4.00

MORI 下仅 CP rank 0 发送复制状态,传输流量降 85%

值得快速浏览:整体改动仅 4 个文件、71 行,核心是 `_should_skip_cp_replicated_state_transfer()` 的策略上移与 MORI `send()` 的去重接入。对从事 PD 传输或 AMD 后端的工程师,公共策略 + layer split 例外的设计值得借鉴;普通使用者无需深入。若后续要在 MORI/Mooncake 之外的新后端复用,注意其前提是「CP all-gather 后 state 全等」。

缺陷修复 重要性 7.03 洞察度 6.00

修复 Qwen3.5 MTP 丢弃融合共享专家权重的问题

值得精读,该 PR 展示了如何处理共享专家融合带来的权重布局变化,以及如何保持与主模型逻辑的一致性。关注其对 `qwen3_5.py` 的镜像逻辑和未来可能需要的扩展。

缺陷修复 重要性 6.80 洞察度 6.00

修复 MoRI 下 Qwen MoE 路由错乱与精度归零

值得精读。核心看点:(1) 后端谓词必须与布局契约一一对应 — is_deepep() 只在纯 DeepEP 为真,MoRI 这类 DeepEP 类后端必须显式纳入,否则静默落入错误路径;(2) Duyi-Wang 对 CUDA Graph 与动态 token 数的辩驳展示了先验证假设、再改代码的归因方法,yichiche 用 eager/graph 对照 + 吞吐 + accept length 三组证据收缩 PR 范围,是很好的 review 实践样本;(3) 测试用全局 flags 模拟后端切换并 addCleanup 恢复的模式可复用。建议后续补一个真正跑 MoRI 运行时路径的 PR-CI 测试,避免回归。

文档 重要性 5.54 洞察度 3.00

标记 Ling-3.0-flash DSPARK 在 H200 上四种量化验证通过。

值得快速浏览,了解 DSPARK 在 H200 上的验证状态与配置要点,特别是 MXFP4 的 `--moe-runner-backend flashinfer_mxfp4` 要求。可关注 PR #33561 的合并进度,确保文档中引用的 commit 仍然有效。

文档 重要性 6.29 洞察度 5.00

按 lm_head 精度拆分 Qwen3.8-27B 的 NVFP4 部署配置。

值得精读(尤其是 PR body):它示范了文档参数维护的方法论——用“更严格适配的变体可覆盖更宽松变体”的单调性论证来批量继承实测值,再对继承会低估的场景(RTX 5090 fp32)单独补测,既省工作量又不牺牲准确性。维护此类部署面板的工程师可以借鉴该模式;合入前建议全站搜索残留的 `nvfp4` 硬编码。

#36203 Cleanup duplicate mamba backup helper

原始 PR · 作者 ispobock · 合并时间 2026-08-25 00:52

重构 重要性 5.29 洞察度 2.00

删除 schedule_batch.py 中重复的 mamba backup 辅助函数定义

该 PR 是低风险的代码清理,值得快速合入。无需精读,但可关注调度器中 mamba 相关的逻辑,了解备份机制。

参与讨论