THUDM/slime · 标签视图

发布 v0.3.2，新增 SGLang 确定性补丁与发布校验脚本

建议负责构建与发布的同学精读 `check_release.py` 与 `build_conda.sh`：前者用 AST/正则做交叉校验的思路简洁可靠，可直接作为发布门禁；后者集中体现了 conda/Docker 双路径对齐的维护成本。对于关心 FP8 推理的工程师，`sglang-deterministic.patch` 中 UE8M0 scale 与 SiLU 舍入的处理与近期 PR#2327 的 FP8 开关联动，值得深入研究。该 PR 无需逐行审查补丁，但应确认补丁与上游 commit 固定一致。

对齐 Megatron 训练与 SGLang rollouts，新增确定性 GLM-5 对齐路径

值得精读。该 PR 展示了如何系统性对齐训练与推理引擎的数值行为，包含大量可借鉴的设计：自定义 autograd 函数封装外部 kernel、通过 Triton 内核实现确定性路由重排、使用直通估计器（STE）处理对齐权重、基于 cache key 的权重对齐缓存、以及通过 layerwise dump 精确验证对齐效果。对从事多后端一致性、MoE 训练、FP8 量化的工程师有很高参考价值。建议关注点：1）routing_replay 对非 GLM-5 模型的潜在影响；2）DeepEP 成为唯一对齐后端的回退策略；3）CI 门禁的 fixture 依赖管理。

新增 CUDA 13（Blackwell）Docker 构建路径

值得精读 `docker/Dockerfile` 的 CUDA 分支与 `docker/justfile` 的发布目标，可作为“多 CUDA 版本 + 多架构镜像”构建的参考模板。重点观察三点：运行时探测取代显式构建开关的取舍、第三方 fork 依赖的固定 commit 管理、以及滚动 latest 标签的所有权转移。若团队近期要支持 Blackwell 训练，此 PR 是必要的基础设施前置。

发布 v0.3.1，集成 SGLang/Megatron 补丁与构建修复

值得精读，尤其适合维护 docker 补丁和发布流程的团队。关注补丁的组织方式、版本兼容策略，以及 reloadable process group 销毁顺序的修复思路。

PYTORCH_ALLOC_CONF 支持，隔离 SGLang

改动小但有针对性，结合 colocation 显存优化线（#2180 等）值得快速阅读。关注点：环境变量隔离位置是否合理，以及 Dockerfile 依赖锁定策略——建议后续改为固定 commit 或构建产物校验，避免构建漂移。

SGLang 升级至 v0.5.15.post1，同步更新 Docker 构建与 patch

本 PR 适合所有使用 slime Docker 镜像的团队精读，尤其是 `arguments.py` 中的参数兼容模式和 `sglang_engine.py` 的默认值覆盖策略值得在设计迁移时借鉴。建议 merge 前运行完整 CI（包括 offload、disagg 测试组合），并确认无回归。

Docker 依赖批量升级关键库

建议阅读该 PR 的 Dockerfile 变更，了解依赖版本对齐策略。可考虑在后续 PR 中补充集成测试以验证兼容性。

更新 Docker 训练依赖，升级 FlashLinearAttention 版本

建议快速合并，是常规的依赖维护更新。