#35711 [Runtime] Don't override CUDA_MODULE_LOADING
原始 PR · 作者 HanHan009527 · 合并时间 2026-08-22 05:09
不再强制覆盖 CUDA_MODULE_LOADING 环境变量
不值得逐行精读代码(仅 1 行删除),但 PR body 是"删除环境变量强制覆盖前,先用官方契约 + 真实环境实测交叉验证"的优质范本,建议快速阅读其动机与验证段落。值得关注的设计决策是:SGLang 不再替用户决定 CUDA 模块加载策略,而是交给部署方和 CUDA / PyTorch 栈;若团队后续需要统一 lazy 策略,应通过部署模板或文档显式设置,而不是在代码里写死未文档化的 `AUTO`。