Prhub

#35450 Update deepep for SBO feature

原始 PR 作者 Fridge003 合并时间 2026-08-20 14:37 文件变更 2 提交数 3 评论 3 代码增减 +1 / -5

执行摘要

升级 sgl-deep-ep 至 0.1.2 并启用 SBO 测试

PR 标题和代码注释表明,之前 DeepEP 不支持 --enable-single-batch-overlap 标志,导致相关测试被跳过。现在上游 DeepEP PR(https://github.com/sgl-project/DeepEP/pull/10)已合并,新版本 0.1.2 支持该功能,因此需要升级依赖并重新启用测试。

该 PR 是常规依赖升级和测试启用,简单明确,无需精读。可关注 sgl-deep-ep 后续版本是否引入新的 API 变化。

讨论亮点

作者 Fridge003 在 review 中提出将版本从 0.1.2rc0 改为 0.1.2(最终采纳)。无其他争议。

实现拆解

  1. 升级依赖:在 python/pyproject.toml 中将 sgl-deep-ep 从 0.1.1 改为 0.1.2,确保使用支持 SBO 的版本。
  2. 移除测试跳过:在 test/registered/4-gpu-models/test_deepseek_v3_cutedsl_4gpu.py 中删除 TestDummyWithSBO 类上的 @unittest.skipIf(True, ...) 装饰器,恢复该测试类的正常运行。
  3. 验证:通过 /rerun-test 重新运行测试 test_deepseek_v3_cutedsl_4gpu.py,测试通过。
文件 模块 状态 重要度
python/pyproject.toml 依赖配置 modified 3.12
test/registered/4-gpu-models/test_deepseek_v3_cutedsl_4gpu.py 测试用例 modified 4.06

关键源码片段

test/registered/4-gpu-models/test_deepseek_v3_cutedsl_4gpu.py test-coverage

移除 SBO 测试的 skip 装饰器,恢复测试覆盖。

# test/registered/4-gpu-models/test_deepseek_v3_cutedsl_4gpu.py
# 移除 skip 装饰器,恢复 SBO 测试
class TestDummyWithSBO(CustomTestCase):
    @classmethod
    def setUpClass(cls):
        cls.model = try_cached_model(DEFAULT_DEEPSEEK_NVFP4_MODEL_FOR_TEST)
        cls.base_url = DEFAULT_URL_FOR_TEST
        other_args = [
            "--trust-remote-code",
            "--disable-radix-cache",
            # ... 其他参数
            "--quantization",
            "modelopt_fp4",
            # ...
        ]

评论区精华

依赖版本选择 设计

Fridge003 建议将版本从 0.1.2rc0 改为正式版 0.1.2。

结论:采纳使用正式版本 0.1.2。 · 已解决

风险与影响

依赖升级可能导致 sgl-deep-ep 的 API 行为变化,但该版本升级是修复型(新增 SBO 支持),且测试重新启用后已通过,风险较低。测试仅在 4 GPU 环境运行,其他硬件或配置可能未覆盖。

影响范围:仅限 DeepSeek 模型使用 sgl-deep-ep 的场景。启用 SBO 测试后,可验证新功能正确性,潜在改善性能。团队方面,需要确保 CI 环境能正确安装 sgl-deep-ep 0.1.2。

依赖升级 测试环境特定

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论