执行摘要

• 一句话：EPLB 手动测试支持 FlashInfer A2A
• 推荐动作：值得合并，增强测试灵活性。建议后续采纳 review 中的 .lower() 建议以提升环境变量容错性。

功能与动机

在 Blackwell 或难以编译 DeepEP 的机器上，需要让 EPLB 手动测试能够选用 FlashInfer A2A 后端，从而扩大测试覆盖范围。PR body 中说明目标为“Let manual EPLB tests select the MoE A2A backend through SGLANG_EPLB_TEST_MOE_A2A_BACKEND”。

实现拆解

1. 新增辅助函数：在 test/manual/ep/test_eplb.py 文件头部新增 get_a2a_backend_config()、get_a2a_backend_args() 和 get_a2a_backend_kwargs() 三个函数。get_a2a_backend_config 读取环境变量 SGLANG_EPLB_TEST_MOE_A2A_BACKEND（默认 deepep），返回相应的命令行参数列表和 engine kwargs 字典；若后端为 flashinfer，额外指定 --moe-runner-backend flashinfer_cutlass 和对应 kwargs。
2. 替换原有硬编码参数：在 _BaseTestDynamicEPLB.setUpClass 中，将原来的 --moe-a2a-backend deepep --deepep-mode normal 替换为 *get_a2a_backend_args()，动态注入后端参数。
3. 为静态 EPLB 测试添加 kwargs：在 TestStaticEPLB.test_save_expert_distribution_and_init_expert_location 中，移除硬编码的 moe_a2a_backend="deepep"，改为调用 engine_kwargs.update(get_a2a_backend_kwargs()) 动态注入。
4. 调整端口和延迟：为避免重启冲突，将静态测试中第一个 engine 的端口从无显式端口改为 11000，第二个从 21000 改为 12000；同时在 tearDownClass 和静态测试的 engine shutdown 后添加 time.sleep(5)，确保进程充分终止。
5. 引入新导入：添加 import os、import time 以支持环境变量读取和延迟。

关键文件：

• test/manual/ep/test_eplb.py（模块 EPLB；类别 test；类型 test-coverage；符号 get_a2a_backend_config, get_a2a_backend_args, get_a2a_backend_kwargs）: 唯一变更文件，重构了 A2A 后端配置逻辑，使得测试可通过环境变量动态选择 deepep 或 flashinfer 后端。

关键符号：get_a2a_backend_config, get_a2a_backend_args, get_a2a_backend_kwargs

关键源码片段

test/manual/ep/test_eplb.py

唯一变更文件，重构了 A2A 后端配置逻辑，使得测试可通过环境变量动态选择 deepep 或 flashinfer 后端。

def get_a2a_backend_config():
    # 环境变量 SGLANG_EPLB_TEST_MOE_A2A_BACKEND 可设为 "deepep" 或 "flashinfer"
    # 默认使用 deepep，在 Blackwell 或编译困难时可切换到 flashinfer
    moe_a2a_backend = os.environ.get(
        "SGLANG_EPLB_TEST_MOE_A2A_BACKEND", "deepep"
    )
    args = ["--moe-a2a-backend", moe_a2a_backend]
    kwargs = {"moe_a2a_backend": moe_a2a_backend}
    if moe_a2a_backend == "deepep":
        args.extend(["--deepep-mode", "normal"])
        kwargs["deepep_mode"] = "normal"
    elif moe_a2a_backend == "flashinfer":
        args.extend(["--moe-runner-backend", "flashinfer_cutlass"])
        kwargs["moe_runner_backend"] = "flashinfer_cutlass"
    return args, kwargs

评论区精华

Gemini Code Assist 机器人提出 3 条建议：

1) 在 get_a2a_backend_config 中对环境变量值调用 .lower() 以忽略大小写；
2) 在 del engine 后移除冗余的 engine = None 赋值。这些建议均为 medium 优先级，且作者未回复，变更已按原始提交合并，建议未被采纳。

• 环境变量值大小写容错 (style): 建议未被采纳，当前实现保持原样。
• 冗余的 engine = None 赋值 (style): 建议未被采纳，当前实现保留 del engine + engine = None。

风险与影响

• 风险：无显著风险。变更仅涉及手动测试代码，不影响生产逻辑。环境变量不传时默认行为与之前一致（deepep），端口调整和 sleep 仅提升测试稳定性。
• 影响：影响范围仅限于手动 EPLB 测试：开发者现可通过 SGLANG_EPLB_TEST_MOE_A2A_BACKEND=flashinfer 在 Blackwell 等环境下运行测试，从而验证 EPLB 与 FlashInfer A2A 的兼容性。对用户无直接影响。
• 风险标记：测试覆盖调整无生产影响

关联脉络

• PR #30489 [refactor] Move the EP dispatcher and fusion-workspace manager state onto ctx.resources: 同样涉及 MoE EP 相关配置和 A2A 后端，但本 PR 仅修改测试，无直接代码依赖。
• PR #29729 Add opt-in SGLANG_ROPE_CACHE_FP32 to keep RoPE cache in fp32 on non-CUDA: 类似的通过环境变量控制行为的模式，但不同模块。