#21779 Reduce redundant speculative decoding CI tests
原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-04-01 08:40
移除EAGLE推测解码测试中的冗余用例,显著缩短CI执行时间。
该PR对CI优化有价值,值得快速浏览以理解测试套件结构改进,如冗余测试识别和核心测试提取逻辑,但无需深入代码细节。
SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-04-01 08:40
移除EAGLE推测解码测试中的冗余用例,显著缩短CI执行时间。
该PR对CI优化有价值,值得快速浏览以理解测试套件结构改进,如冗余测试识别和核心测试提取逻辑,但无需深入代码细节。
将 MooncakeSpec 测试模型从 Llama-2 EAGLE 切换到 Llama-3.1 EAGLE3,并调整精度阈值和并行度。
对于技术管理者和工程师,本 PR 值得快速浏览以了解测试配置的更新。关注点包括:模型切换的背景(Llama-2 分数下降)、新阈值设定的依据(CI 分数 0.775 > 0.74),以及并行度增加对测试性能的潜在优化。
将 hicache 一致性测试的样本数从 50 增加到 200,以降低 flaky 分数差异。
该 PR 变更简单,无需精读。但可以关注参数调整的合理性,如样本数和并行度的选择,以及它们对测试稳定性和性能的平衡。
移除冗余的 MoE 评估测试文件,优化测试套件结构。
此 PR 变更直接,无需深入审查。建议工程师快速浏览以了解测试清理实践,但对于代码学习价值有限。
新增 CompletionSampler,支持通过 /v1/completions API 进行非聊天模型评估。
建议工程团队精读此 PR,关注 `CompletionSampler` 的设计如何与现有 `ChatCompletionSampler` 集成,以及参数提取的优化方式。对于使用非聊天模型的开发者,此功能值得关注。
原始 PR · 作者 happierpig · 合并时间 2026-04-01 07:32
为MOE A2A后端添加自定义选项,以支持正确处理require_mlp_tp_gather。
该PR变更简单机械,无需深度精读,但关注MOE模块或后端集成的工程师可快速浏览以了解自定义选项的添加方式,作为基础设施扩展的参考案例。
移除GPT-OSS、Kimi-Linear和Qwen3 Next模型的冗余PCG测试文件。
该PR变更简单,不值得深入精读,但可以作为了解PCG默认启用策略和测试清理趋势的参考。建议团队关注类似#21485的PR,以把握测试基础设施的演进方向。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-04-01 07:09
添加用于 nightly dev Docker 镜像的 Trivy 漏洞扫描工作流。
建议阅读此 PR 以学习如何在 CI/CD 中集成安全扫描工具,关注其使用自托管运行器、优化扫描配置以避免超时、以及处理输入安全性的设计决策,适用于类似基础设施改进场景。
参与讨论