补充 Kimi-K3 VLM 兼容性表
建议关注此文档的用户仔细阅读新增的兼容性表格,特别是 PD/EPD 配置和 `--mm-enable-dp-encoder` 的注意事项。
SGLang is a high-performance serving framework for large language models and multimodal models.
补充 Kimi-K3 VLM 兼容性表
建议关注此文档的用户仔细阅读新增的兼容性表格,特别是 PD/EPD 配置和 `--mm-enable-dp-encoder` 的注意事项。
原始 PR · 作者 xiaojun-zhang · 合并时间 2026-07-29 11:46
修复 Kimi-VL 二维网格在 EPD 中的支持
该 PR 修复了一个模型特定但影响生产链路的问题,设计清晰(属性优先级 + 降维辅助函数),测试完备。值得精读,尤其关注如何在不破坏现有模型前提下扩展网格格式。
原始 PR · 作者 TallMessiWu · 合并时间 2026-07-29 11:34
修复 NPU 上 ModelSlim MXFP4 打包权重加载失败
对于维护 NPU 量化管线的开发者,建议仔细审阅此数据契约变更,确保检查点与代码版本一致。Review 中关于 NZ 格式的权衡讨论值得注意。
原始 PR · 作者 AgainstEntropy · 合并时间 2026-07-29 11:28
修复单 GPU 下 MergedColumnParallelLinear 的 FP8 scale 形状错误
PR 值得合入,逻辑清晰且修复明确。建议审查者关注后续的单元测试 PR,确保单 GPU 场景得到充分覆盖。
更新 CODEOWNERS 添加量化与模型加载负责人
无需精读,属于常规的仓库维护操作。
移除分配器中未使用的 backup_state/restore_state 方法
值得略读,尤其适合学习如何系统性清理死代码。PR body 提供了清晰的背景说明和验证步骤,可作为类似重构的参考。
原始 PR · 作者 monkeyLoveding · 合并时间 2026-07-29 10:22
更新 sgl-kernel-npu 标记版本
可通过,属于常规依赖版本升级。建议在合并前确认新包在目标硬件上通过 CI 测试。
原始 PR · 作者 xiaolin2004 · 合并时间 2026-07-29 10:04
修复 MLX overlap 调度器首请求崩溃与优雅退出
该 PR 修复了 MLX 后端两个隐蔽但影响严重的问题,值得相关开发者精读,尤其是 `_prepare_mlx_launch` 的设计及其与 `run_batch` 的对齐方式,以及优雅退出的处理。Review 讨论中对 launch_ts 放置位置和 SWA 维护的权衡也值得参考。
参与讨论