verl-project/verl · 标签视图

新增Ascend NPU的SGLang v0.5.10 Dockerfile及配套CI和文档更新。

对于基础设施维护者和NPU用户，此PR值得浏览以了解最新NPU环境配置。建议关注Dockerfile中的安全优化建议，未来可考虑采纳以提高镜像安全性和效率。

修复SGLang服务器返回空结果时导致的ValueError，增强日志概率提取的健壮性。

该PR值得精读，展示了如何处理外部服务（SGLang）返回数据不一致的防御性编程模式，特别是assert用于快速失败的设计决策。关注generate函数中meta_info获取和日志概率提取的重构逻辑。

适配SGLang最新分支的_launch_subprocesses函数调用方式，确保向后兼容。

该PR值得快速浏览，特别是关注版本检测和导入逻辑的设计。对于维护sglang集成的工程师，可以学习这种通过版本检测实现向后兼容的模式。虽然变更较小，但展示了对外部依赖API变更的适配策略。

修复SGLang rollout中LoRA适配器路径的权重同步顺序和内存释放问题。

建议精读engine_workers.py中的update_weights方法，关注base_sync_done逻辑调整和两阶段同步设计，这体现了SGLang与vLLM后端在LoRA处理上的重要差异。同时，review讨论中的跨后端兼容性权衡值得关注。

添加 Ascend A2/A3 的 sglang Docker 镜像构建流水线。

建议工程师在设置类似 Ascend 硬件流水线时参考此 PR，重点关注 CI 工作流的配置正确性和 Secrets 管理；对于依赖变更，建议后续添加测试验证镜像构建成功。