Wan DiT layerwise 卸载默认开启
该 PR 值得阅读 `server_args_auto_tune.py` 中的条件判断与注释,它展示了显式 vs 隐式策略的典型设计权衡。但需注意 review 中未采纳的建议,可能是一个潜在的边界错误,建议团队在后续 PR 中修正。测试用例的设计也有参考价值,尤其是利用 mock 覆盖各种模型配置。
SGLang is a high-performance serving framework for large language models and multimodal models.
Wan DiT layerwise 卸载默认开启
该 PR 值得阅读 `server_args_auto_tune.py` 中的条件判断与注释,它展示了显式 vs 隐式策略的典型设计权衡。但需注意 review 中未采纳的建议,可能是一个潜在的边界错误,建议团队在后续 PR 中修正。测试用例的设计也有参考价值,尤其是利用 mock 覆盖各种模型配置。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-21 22:58
cherry-pick 工作流输出新 PR 链接
可快速合入。对于频繁使用 cherry-pick 工作流的团队,此改进能提高效率。
原始 PR · 作者 liuxianglong17 · 合并时间 2026-05-21 22:10
抑制 Transformers 兼容性警告日志
PR 改动简单,无需深入精读。但 review 中关于环境变量覆盖的讨论值得注意:对于测试脚本,应优先使用 `os.getenv("VAR", default)` 模式以保留开发者调试的可能性。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-21 22:01
修复 cutlass-dsl wheel 混合安装导致 CI 类型错误
本 PR 精细地定位了 wheel 混合安装的根因,并用最小改动修复,值得优先合入并关注后续 cutlass-dsl 依赖管理策略。建议回归测试 LoRA 和 eagle 测试集,确保无其他异常。作者的分析与验证过程(devbox 上测试 4 种组合、md5 校验、LoRA 回归检查)值得借鉴。
删除 NPU 文档中废弃参数说明
简单文档清理,无需深入审查。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-21 20:10
修复 bot-cherry-pick 的合并状态检测
该 PR 是紧急修复工作流缺陷的简单变更,值得部署以恢复 bot-cherry-pick 功能。
原始 PR · 作者 ShangmingCai · 合并时间 2026-05-21 19:29
启用 nixl 解耦 decode radix cache 测试
此 PR 值得关注,因为它恢复了 nixl 后端的一项重要测试覆盖。对于使用 nixl 进行数据分片传输的团队,建议关注此测试的稳定性。
新增 Ascend NPU 最佳实践与基准测试参数说明
建议快速合并,该 PR 显著提升了 NPU 文档的完整性和可用性。review 提出的不一致问题应确保在合并前修复。
参与讨论