执行摘要

修复CUDA图生成逻辑中未包含配置的最大批次大小的错误，避免因非CUDA图回退导致的性能下降，确保参数行为符合预期。

功能与动机

本PR旨在解决用户配置cuda_graph_max_bs未被包含在生成的CUDA图批次大小中的问题。PR body指出："ensure generated cuda graph batch sizes always include the configured cuda_graph_max_bs"，用户常将此参数设为max-running-requests，且最大批次大小易被运行，因此应确保使用CUDA图以优化性能，防止观测到的巨大性能退化。

实现拆解

修改文件python/sglang/srt/server_args.py中的_generate_cuda_graph_batch_sizes函数。在生成capture_bs列表（筛选bs <= self.cuda_graph_max_bs后），添加以下代码：

if self.cuda_graph_max_bs not in capture_bs:
    capture_bs.append(self.cuda_graph_max_bs)

评论区精华

review中，gemini-code-assist[bot]提出优化建议：

"For improved efficiency and code clarity, you can check if self.cuda_graph_max_bs is the last element instead of using the in operator."

作者weireweire回应：

"it's error prone when code above changes."

讨论焦点在于效率（O(1) vs O(n)）与代码安全性之间的权衡，最终选择更安全的in操作符实现。

风险与影响

• 风险：新增的in检查可能引入O(n)性能开销，尤其在capture_bs较大时；第二个commit移除了回归测试，可能导致测试覆盖不足，增加回归风险。
• 影响：正面提升CUDA图生成的可靠性，减少非CUDA图回退，改善推理性能稳定性，影响使用cuda_graph_max_bs配置的用户。

关联脉络

与此PR相关的历史PR包括#21754（"Enable evict swa with piecewise cuda graph"），该PR也涉及CUDA图优化，可能协同提升整体性能。其他近期bugfix PR如#21727展示了类似代码安全性的考虑。