Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态：已开启 最近同步：2026-09-02 20:51 同步状态：空闲 下次计划：2026-09-02 21:51

PR 列表

最近 1 天 最近 3 天 最近 7 天
更多筛选
标签聚合 仓库周报
2026-06-26
缺陷修复 重要性 5.83 洞察度 4.00

修复 arm64 MoE 内核函数签名不一致

该 PR 为典型的跨平台签名同步修复，变更简洁且必要。开发者可以快速了解 ARM64 平台如何维护函数签名一致性。值得关注的是作者采用的方式是将公共声明统一化，而非为 ARM64 保留特殊路径，这种设计值得借鉴。

sgl-kernelbugfixmoe
缺陷修复 重要性 3.71 洞察度 4.00

修复 MLX 单元测试使用过时的 stash() API

该 PR 是典型的 API 重构后未同步测试的反例，值得注意：当核心函数签名变更时，应系统地检查所有调用点（包括测试）。建议精读以了解 `RelayPayload` 的用法。

bugfixtestrefactor

#29267 [CPU] add indices in chunk_gated_delta_rule

原始 PR · 作者 mingfeima · 合并时间 2026-06-26 07:51

性能优化 重要性 6.49 洞察度 6.00

CPU GDN kernel 内联状态索引，移除外部 gather

值得精读。该 PR 展示了如何将常见的外部 gather/scatter 操作通过 kernel 参数下沉到计算内部，减少 host-device 同步和数据搬运。对于优化 CPU/GPU 推理后端有参考价值。重点关注 `fla.cpp` 中索引修改和 `gdn_triton.py` 中调用侧的适配。

sgl-kernelcpuperformance
缺陷修复 重要性 3.90 洞察度 5.50

DP Attention 测试移除 torch.compile 掩码

此 PR 改动虽小但意义重要：修复了一个测试用例因 torch.compile 掩盖真正竞争风险的问题。建议在双流 MoE 相关 PR 中参考此调整，确保测试标志不隐藏并发问题。

bugfixtestperformance

#14194 [feature] implement dcp for deepseek_v2

原始 PR · 作者 staugust · 合并时间 2026-06-26 06:15

功能 重要性 9.36 洞察度 8.00

为 DeepSeek-v2 实现 Decode Context Parallelism

该 PR 设计稳健、讨论充分，值得深入阅读。特别是 DCP 的虚拟 KV 容量策略和 Triton 在线 softmax 校正内核值得关注。建议在后续 PR 中补充 MHA 模型 DCP 的测试和 FlashMLA FP8 支持。对于需要超长上下文的 DeepSeek 用户，建议升级到包含此 PR 的版本。

featuredeepseekperformance
测试 重要性 5.13 洞察度 5.00

前向占用率测试工具增加 token TPS 报告

建议合并。该 PR 小而精，增强了测试工具的可观测性，代码变更清晰无副作用。值得关注的设计决策：将 TPS 计时放在请求内部而不是采样循环，避免了尾部采样间隔的干扰，使 TPS 更准确。

testperformanceobservability

参与讨论