清理并同步内部代码变更
该 PR 为常规维护清理,值得快速合入。建议关注后续 PR 中 `apply_chat_template_kwargs` 的实际使用,确保数据一致性。
slime is an LLM post-training framework for RL Scaling.
清理并同步内部代码变更
该 PR 为常规维护清理,值得快速合入。建议关注后续 PR 中 `apply_chat_template_kwargs` 的实际使用,确保数据一致性。
移除 rollout 中已废弃的指标地址方法
简单清理,可快速合并。建议后续关注是否有其他未使用的公共接口,可系统性清理。
升级 sglang 至 v0.5.13,新增 Glm5 跨层索引共享
建议团队仔细 review sglang.patch 的变更,特别是新增的超时逻辑和 draft model 支持,确保与 v0.5.13 的兼容性。跨层索引共享的设计值得阅读,可参考 glm-train-prod 的实现作为对比。
修复 search-r1 生成中停止标签缺失问题
该 PR 值得合并,修复逻辑清晰且风险低。建议确认 `no_stop_trim=True` 的行为与预期一致,并可考虑为类似示例提供通用停止标签配置模式。
暴露 sglang 负载 inflight 细节
建议运维团队关注该能力,可用于请求生命周期分析和调度调优。设计上请求触发采集,性能影响可控。
允许零 GPU 启动仅路由的 rollout 服务
此 PR 值得关注,尤其是对于计划使用自定义 rollout 引擎的团队,零 GPU 模式提供了灵活部署选项。设计简洁,测试覆盖良好,建议在相关文档中强调零 GPU 模式的外部引擎依赖。
原始 PR · 作者 yueming-yuan · 合并时间 2026-06-12 11:26
同步更新 Miles 生态文档。
可以直接合并,无需深度 review。
使用 /v1/loads 接口重试中止服务器
值得精读。该 PR 展示了如何通过轮询负载接口实现可靠的服务器中断,设计简洁清晰。尤其是 `num_requests_from_load` 的递归解析模式,可复用于其他类似场景。
参与讨论