sgl-project/sglang

多适配器 LoRA 支持 EAGLE/NEXTN/DFLASH/DSPARK 投机解码

建议精读。这是投机解码与 LoRA 两个核心子系统交叉处的重要功能 PR，设计决策值得学习：共享草稿 + 无损验证的取舍、基于 `is_draft_worker` 的门控而非配置、cuda-graph 宽度断言防静默错贴、共享模块在所有获取点统一解包，以及“只告警不拒绝 embedding 适配器”的务实选择。测试方法论（以 spec-on vs spec-off 为 oracle、先测复现性地板、用 adapter 身份前缀直接检验 batch 内适配器归属）也很有借鉴价值。后续值得跟进 TBO 与 overlap-loading 两个已知 LoRA 问题的独立修复。

不再强制覆盖 CUDA_MODULE_LOADING 环境变量

不值得逐行精读代码（仅 1 行删除），但 PR body 是"删除环境变量强制覆盖前，先用官方契约 + 真实环境实测交叉验证"的优质范本，建议快速阅读其动机与验证段落。值得关注的设计决策是：SGLang 不再替用户决定 CUDA 模块加载策略，而是交给部署方和 CUDA / PyTorch 栈；若团队后续需要统一 lazy 策略，应通过部署模板或文档显式设置，而不是在代码里写死未文档化的 `AUTO`。

将文档安装版本号从 v0.5.16 同步至 v0.5.18

无需精读，属机械式文档版本同步。可作为了解 sglang-bot 自动化发布维护机制的样例；若团队维护多页面文档，值得借鉴“版本发布后自动同步文档版本号”的流程，同时注意配合一次全局 grep 校验确保无版本号遗漏。

Ling-3.0-flash cookbook 新增 DSPARK 投机解码选项

值得精读 ling-3.0-flash.jsx 的 IIFE 组织方式与 _playground.jsx 的 flag 生命周期管理：前者展示了在受限的 snippet 编译环境里做代码生成的技巧，后者说明了多选项轴的"识别—剥离—插入"三段式设计。若团队计划为其他模型补充 DSPARK 或其他外部草稿选项，可直接复用这个模式；引擎开发者无需关注本 PR。

提取 _all_reduce_polls 统一三处 MIN all_reduce 逻辑

改动很小，但值得作为“安全重构分布式 collective 代码”的范例阅读：先点明不变量、明确不相关函数（poll_and_all_reduce_pp）的边界、用调用日志级等价性验证而非目测。建议关注两点：一是三类轮询路径的语义差异（staging 降级、metadata 门控、两段式同步）如何被保留；二是验证脚本未入库这一遗留改进点。

修复 gRPC 流式请求在归一化前取字段导致的崩溃

值得精读。虽然改动只有几行，但它揭示了异步生成器初始化与请求归一化之间的隐性时序契约，以及“循环不变量上提”这类清理操作可能引入的回归模式。对入口层、gRPC bridge 或异步流水线的维护者尤其有参考价值。

修复自定义编码器下 Anthropic 历史思考标记泄漏

值得精读。三点设计值得借鉴：一是从渲染产物反推根因——用修复前后经真实 tokenizer 的渲染对照定位频道错位，而不是只看解析器行为；二是契约用 `spec is not None` 覆盖整个编码器家族并明确安全默认方向（丢弃优于泄漏），避免未来新增编码器踩同样的坑；三是用源码解析守卫测试把“新增编码器必须分类”变成 CI 硬约束并做 mutation-check。若后续增强，建议补 dsv4 / dsv32 / inkling 的端到端多轮回归，并把 `reasoning_content` 的双向验证收进契约测试。