SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 polisettyvarma · 合并时间 2026-04-13 13:16
升级 Intel GPU 平台 PyTorch 依赖至 2.11 版本，同步更新 Docker 和文档。
该 PR 是常规依赖升级，值得关注以确保测试覆盖和向后兼容性；工程师应检查相关模块是否有 API 变化需要适配。
为 hisparse JIT 内核添加 CI 测试套件，验证 kvcache-swap-in 功能。
建议快速浏览此 PR，了解 hisparse 内核的测试方法和场景设计。对于关注 JIT 内核或 CI 测试的工程师，可以关注测试用例的编写方式。
为hisparse JIT内核添加基准测试脚本，评估缓存加载性能。
对于负责jit-kernel性能优化的工程师，建议浏览此PR以了解基准测试设计和配置参数；但对于一般开发者，无需深入阅读，因为核心代码未变。关注点可放在基准测试方法论和review中的改进建议上。
原始 PR · 作者 alisonshao · 合并时间 2026-04-13 12:48
将CI默认CUDA版本从12.9升级到13.0，以匹配PyTorch 2.11默认。
对于技术管理者和工程师，建议快速浏览此PR以了解CUDA版本升级的CI配置变更，重点关注ci_install_dependency.sh中的wheel安装逻辑和测试计划执行情况，确保CI稳定后再推进Docker镜像更新。
为HiSparse添加bfloat16 KV缓存验证，确保启用时数据类型正确。
该PR实现简单但关键，建议精读以理解HiSparse对KV缓存数据类型的依赖关系。关注设计决策：选择严格验证而非自动转换，体现了对数据类型一致性的重视。
为LTX-2.3扩散模型添加一阶段和二阶段基准测试技能配方。
建议阅读此PR以了解扩散基准测试的技能设置，但需关注GPU数量设置的决策，可能反映了性能权衡或特定硬件假设。对于基准测试一致性，建议后续评估GPU配置优化。
简化 chunked prefill 测试套件，移除冗余用例以缩短 CI 时间。
推荐技术管理者关注此 PR 作为测试优化案例，工程师可学习如何识别冗余测试以提升 CI 效率。对于关注调度或测试覆盖的团队成员，值得精读以理解测试重构策略和风险权衡。
撤销FLUX.1-dev ModelOpt NVFP4支持，修复CI测试失败。
建议技术管理者精读此PR以理解CI失败原因和revert策略，工程师应关注flux.py中的代码不一致性问题，并考虑后续清理未使用参数。该PR揭示了量化功能集成中的测试和代码一致性挑战。
参与讨论