SGLang is a high-performance serving framework for large language models and multimodal models.
修复 DeepSeek MLA 在 MI355 上 triton 后端的 null-K 故障与精度错误
建议仔细阅读 `_dispatch_mla_subtype` 和 `_skip_rope_for_aiter_fused_mla` 的改动，理解如何通过 backend 标识隔离专有路径。Hermetic 测试的设计（无 GPU 依赖、Mock 关键属性）值得在其他类似场景推广。该 PR 也暴露了项目中 env var 和 backend 选择不一致的架构问题，值得团队后续系统性解决。
移除与定时调度冗余的 nightly CI 注册配置
该 PR 已合并，建议其他项目参考此清理思路。对于当前读者，无需特殊关注，但可学习其冗余分类的准则。
修复 MiMo-V2 在 Blackwell 上的 FA3 回退与 TP 音频权重加载
建议团队精读此 PR，尤其是关注如何使用统一的 `VisionAttention` 接口解决硬件后端选择问题，以及如何在 `load_weights` 中处理 TP 下的权重重映射。这些设计模式对后续支持新模型或新硬件具有参考价值。
修复 TRTLLM MHA 图元数据测试 fixture
该 PR 为小型测试修复，值得查看以了解如何在图捕获测试中模拟 replay 状态变化。
原始 PR · 作者 shaunkotek · 合并时间 2026-07-16 03:12
修复Nemotron MTP模型量化lm head加载
建议合并。变更简洁且修复明确，属于关键bug修复。可鼓励贡献者为类似场景补充测试。
原始 PR · 作者 lixuwei2333 · 合并时间 2026-07-16 02:32
修复 PP 动态分块 profiling 时 Mamba 缓存泄漏
推荐合并。这是一个典型的资源泄漏 bugfix，改动量小、逻辑清晰、复现路径明确，且通过了 PP 相关 CI 测试。
修复异构TP分离下GDN conv状态切片和GQA头映射错误
此 PR 值得仔细阅读，特别是 `compute_mamba_state_slice_blocks` 的设计方式：通过元数据将“头部独立分片”抽象出来，并统一处理 scatter/aggregation 两种方向。这种模式可复用于其他非线性状态传输。测试用例可选作模型验证的参考。
新增 Inkling 模型部署文档
作为标准 cookbook 添加，无特殊设计决策。可快速合并，未来需要补充基准测试数据和验证更多硬件平台。
参与讨论