SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 xiaolin2004 · 合并时间 2026-07-29 10:04
搬迁 MLX fused-swiglu 测试到 CI 可见目录
值得合并，修复 CI 死代码问题，提升测试覆盖。建议未来迁移同类包内测试时参考此模式。
跳过保留 KV padding 槽位的无效写入
值得精读，尤其是理解 NaN 污染机制和 JIT 内核参数扩展方式。设计决策简洁有效，测试覆盖全面。
修复NPU上DFlash V2推测解码的序列长度越界错误
值得精读。该PR展示了如何在多后端（CUDA/NPU）条件下安全地隔离硬件特定行为：通过新增一个细粒度的类型检查函数（_is_dflash_verify）来绕过通用逻辑中的隐性假设。同时，设备检查的扩展方式也遵循了最小化侵入原则。对于理解推测解码中KV序列长度与注意力元数据交互的开发者，这是一个很好的案例。
更新 Ascend NPU 支持功能文档
可直接合并，更新内容准确清晰。
原始 PR · 作者 merrymercy · 合并时间 2026-07-29 07:48
移动 tokenizer 验证函数位置
无需精读。这是一个机械性的代码重排，可以直接合入。
用实测数据更新 Kimi-K3 在 GB200 上的部署配置
建议部署 Kimi-K3 在 GB200 上的团队精读此 PR，特别是 prefill 拓扑选择和 decode 并行配置的权衡分析。注释中包含了多维度性能对比，可作为手动调优的参考。其他硬件平台无关。
原始 PR · 作者 merrymercy · 合并时间 2026-07-29 07:25
清理 array-like msgspec 结构体配置
该 PR 属于低风险的清理工作，建议合并。它提高了代码一致性，但无需深度审查。
拒绝 Moss-VL 视觉元数据与 token 计数不匹配
此 PR 值得精读，是典型「静默失败 → 快速失败」的改进实践，展示了 fail-closed 的设计决策。测试覆盖了异常的多种边界，可作同类修复的参考。
参与讨论