#23001 Add new Mintlify documentation site (docs_new/)
原始 PR · 作者 wisclmy0611 · 合并时间 2026-04-21 06:10
将独立文档仓库迁移至主仓库,新增 Mintlify 文档站点。
该 PR 值得快速浏览以了解新文档结构和交互式组件设计,但无需深入代码分析。建议关注 docs_new/ 目录的组织方式、CI 集成以及如何利用 Mintlify 提升文档可维护性。
SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 wisclmy0611 · 合并时间 2026-04-21 06:10
将独立文档仓库迁移至主仓库,新增 Mintlify 文档站点。
该 PR 值得快速浏览以了解新文档结构和交互式组件设计,但无需深入代码分析。建议关注 docs_new/ 目录的组织方式、CI 集成以及如何利用 Mintlify 提升文档可维护性。
原始 PR · 作者 fortunecookiee · 合并时间 2026-04-21 05:43
移除多LoRA测试中不稳定的全None批次,修复CI随机失败。
该PR变更简单直接,适合快速浏览以理解CI测试优化策略。重点关注测试用例设计的合理性:移除不提供特定功能信号的测试,避免CI脆弱性。
原始 PR · 作者 alphabetc1 · 合并时间 2026-04-21 05:25
为EAGLE推测解码添加自适应步数调整,根据接受长度动态切换运行时状态。
建议技术管理者和工程师精读此PR,重点关注:1) 自适应策略的EMA设计和滞后阈值如何平衡响应速度与稳定性;2) 运行时状态切换机制如何实现零开销原子操作,避免CUDA图重捕获;3) CUDA图兼容性检查的风险及潜在解决方案。对于实施类似动态调整的系统具有较高参考价值。
原始 PR · 作者 alphabetc1 · 合并时间 2026-04-21 05:14
修复调度器中仅预填充批次清空后未重置满载标志,导致后续请求被阻塞的问题。
该PR值得精读,因为它揭示了调度器中批次状态同步的一个关键细节。关注点在于:为何仅预填充批次清空后需要重置满载标志,以及review中提到的初始空批次边缘情况是否已通过现有逻辑覆盖。
修复 Dockerfile 中多余反斜杠导致 sgl-model-gateway 二进制文件未被复制的问题。
该 PR 变更简单直接,适合快速浏览以了解 Dockerfile 语法陷阱。对于负责基础设施或 CI/CD 的工程师,值得关注此类细微错误如何导致构建失败,并学习如何通过 BuildKit 警告诊断问题。
原始 PR · 作者 ishandhanani · 合并时间 2026-04-21 04:13
将 Rust 工具链安装从 framework 阶段移至 torch_deps 阶段,解决 sglang wheel 构建依赖问题。
该 PR 是典型的基础设施修复,适合负责 Docker 镜像构建和 CI 的工程师精读。重点关注 Docker 层缓存优化策略和 Rust 工具链管理方式,这些设计决策对构建性能和镜像维护有参考价值。
修复 CUDA 13.0 下 cudaMemcpyBatchAsync 参数错位导致的段错误。
建议精读此 PR,特别是运行时版本检测和 CUDA API 兼容性处理的实现方式,这对于涉及低级别 CUDA 编程的项目有借鉴意义。
将EAGLE bigram key从O(N)元组物化改为O(1)视图,显著提升缓存插入和匹配性能。
值得精读,特别是RadixKey类的设计展示了如何通过视图模式避免物化开销,是性能优化和数据结构设计的典型案例。建议关注__getitem__切片逻辑和maybe_to_bigram_view的O(1)实现。
参与讨论