修复 FlashInfer TRTLLM backend 日志重复输出
该 PR 为简单维护性变更,无需详细审查。
SGLang is a high-performance serving framework for large language models and multimodal models.
修复 FlashInfer TRTLLM backend 日志重复输出
该 PR 为简单维护性变更,无需详细审查。
原始 PR · 作者 libertyeagle · 合并时间 2026-05-17 15:58
修复 write_back 模式下 radix cache 驱逐时未等待写回及 sanity 检查误报
建议阅读此 PR 以理解 write_back 与 write_through 模式下缓存驱逐的不同约束。设计决策在于如何让 sanity_check 兼容不同写策略,避免误报。对于使用 HiCache write_back 的生产环境,此修复至关重要。
原始 PR · 作者 amd-bishwoadhikari · 合并时间 2026-05-17 14:12
随机多模态数据集 token 统计增强
值得精读:展示了如何为调试目的添加细粒度统计信息,不引入风险。适合作为基准测试可观测性增强的参考模式。
AMD CI 注册 EAGLE 约束解码测试
该 PR 变更简单,但体现了跨平台 CI 覆盖的重要实践:为 AMD 专用 runner 添加上游已有 CUDA 测试时,应根据实际运行时长合理调整 `est_time` 以优化 CI 分区。可快速合入。
原始 PR · 作者 michaelzhang-ai · 合并时间 2026-05-17 13:56
AMD CI 注册 5 个框架测试,缩小覆盖差距
本 PR 虽为 CI 配置变更,但其筛选策略和 Reviewer 反馈处理的思路值得关注:1)通过关键字过滤排除硬件相关测试,避免虚假失败;2)对于平台特有差异,使用 skipIf(is_hip()) 精确跳过,而非全局禁用;3)坚持注册的测试必须可运行,避免注册即禁用。推荐 CI 维护者和跨平台贡献者阅读。
内存感知组件加载排序防OOM
值得精读。PR 展示了如何在不改变加载语义的前提下,通过纯排序解决资源竞争问题,并妥善处理与 FSDP 的交互。可关注 `order_component_load_specs` 的“inferred size + risk rank”双重排序策略,以及 `is_fsdp_managed_module` 的抽取模式。
修复 DeepSeek V4 文档多处错误并新增 MegaMoE 说明
该 PR 为文档修复和功能补充,建议立即合并以修正已知问题并完善 MegaMoE 说明。值得关注的点:1) `isMegamoeUnsupported` 的设计与实际后端兼容性对齐;2) 文档格式审查流程。
降低 MoE inplace 设置日志级别并添加条件
建议合入,变更简单明确,无引入问题的风险。
参与讨论