Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-01 17:58 同步状态:空闲 下次计划:2026-09-01 18:58

PR 列表

更多筛选
2026-06-26

#27433 [NPU] Nightly CI refactor and enhancement

原始 PR · 作者 hhhh1252023 · 合并时间 2026-06-26 08:52

功能 重要性 8.22 洞察度 5.00

NPU 夜间 CI 指标仪表板和可重用工作流

该 PR 适合 NPU 相关开发者和 CI 运维人员精读。值得关注的设计决策包括: - 基于 stdout 模式匹配的轻量级指标收集方案,无需额外服务。 - 可重用工作流模式(单节点、多节点)降低重复配置。 - 优雅处理测试失败(即使失败也生成指标工件)确保仪表板完整性。 - 自动网络接口选择逻辑,对多机部署有参考价值。

重构 重要性 4.85 洞察度 3.00

ARM 构建排除 AMX GEMM 源码

此 PR 是低风险、高价值的跨平台构建梳理。建议快速合入。感兴趣的工程师可以关注未来的跟踪 PR,该 PR 可能会真正为 ARM 实现 GEMM 内核以替换存根。

缺陷修复 重要性 7.82 洞察度 6.00

自动检测 chat template,修复 mid-conversation system 消息导致 prefix cache 分叉

该 PR 值得精读。它展示了如何在不增加用户配置开销的前提下,通过运行时的模板探针来适配不同模型的行为差异,是解决多模型兼容性问题的良好范例。同时移除了一个与架构不匹配的协议层 validator,使关注点分离更正确。建议关注 `detect_inline_system_support` 的检测逻辑和 `_convert_to_chat_completion_request` 的转换分支。

缺陷修复 重要性 5.83 洞察度 4.00

修复 arm64 MoE 内核函数签名不一致

该 PR 为典型的跨平台签名同步修复,变更简洁且必要。开发者可以快速了解 ARM64 平台如何维护函数签名一致性。值得关注的是作者采用的方式是将公共声明统一化,而非为 ARM64 保留特殊路径,这种设计值得借鉴。

缺陷修复 重要性 3.71 洞察度 4.00

修复 MLX 单元测试使用过时的 stash() API

该 PR 是典型的 API 重构后未同步测试的反例,值得注意:当核心函数签名变更时,应系统地检查所有调用点(包括测试)。建议精读以了解 `RelayPayload` 的用法。

#29267 [CPU] add indices in chunk_gated_delta_rule

原始 PR · 作者 mingfeima · 合并时间 2026-06-26 07:51

性能优化 重要性 6.49 洞察度 6.00

CPU GDN kernel 内联状态索引,移除外部 gather

值得精读。该 PR 展示了如何将常见的外部 gather/scatter 操作通过 kernel 参数下沉到计算内部,减少 host-device 同步和数据搬运。对于优化 CPU/GPU 推理后端有参考价值。重点关注 `fla.cpp` 中索引修改和 `gdn_triton.py` 中调用侧的适配。

参与讨论