SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 alisonshao · 合并时间 2026-05-29 07:52
修复 /rerun-test 的目录递归与多 pool 调度问题
建议 CI 维护者和经常使用 `/rerun-test` 的开发者阅读此 PR，了解 glob 递归处理和多 pool 扇出的设计；尤其是 `_extract_runner_configs` 返回列表这一变更，可能影响依赖该函数的其他调用方。
精简端到端测试，简单LB算法移至单元测试
值得精读，尤其关注以下设计决策： 1. 通过 `__new__` 绕过复杂初始化的测试模式，适合需要测试内部调度逻辑但不愿启动完整服务器的场景。 2. 模块文档显式列出了测试合约（`_make_controller` 注入的属性），便于后续维护。 3. 状态不一致回归守卫（`TestStatusAwarenessInconsistency`）是一种良好的设计意图锁定手段，值得在其他调度器测试中推广。
修复非 NVLink 环境 CustomAllReduceV2 选择与崩溃
值得精读，因为展示了如何在已有默认行为变更后优雅地修复兼容性问题，是理解 SGLang 分布式通信层的良好入口。设计决策如惰性初始化、前置能力检查可复用。
修复 retry() 未传播 _ShouldStop 导致 CI 误报
建议精读。此 PR 虽小，但揭示了 unittest 内部 `_ShouldStop` 信号与重试装饰器交互的微妙问题，对理解 Python 测试框架和 CI 失败调试有参考价值。代码注释清晰，是良好的异常处理实践案例。
清理模型 E2E 测试目录结构
值得精读，展示了如何系统性地组织大型测试套件，包括目录约定、server 启动拆分和公共 mixin 提取。对维护大规模测试套件的团队有参考价值。
清理 DeepSeek V4 测试和安装脚本
对于关注 CI 基础设施组织的读者值得精读，展示了如何通过删除冗余和统一命名来降低维护成本。
为 GSP 数据集增加 Zipf 前缀分布采样
该 PR 设计干净，值得阅读：1）`_zipf_group_probs` 数学实现简洁；2）CLI 校验前移，减少用户等待；3）RNG 隔离保证可复现性；4）缓存键细分，避免不同分布互相污染；5）测试覆盖全面，包括数学验证和子进程 CLI 测试。
为 bench_serving 添加 SPEED-Bench 数据集支持，用于推测解码基准测试
值得关注。该 PR 展示了如何通过标准的 BaseDataset 接口扩展 bench_serving 的数据集类型，是一种良好的插件式设计。对于计划集成其他标准化基准（如 MMLU、HumanEval）的开发者具有参考价值。review 中的优化建议和采纳过程也体现了代码质量意识。
参与讨论