sgl-project/sglang

Kimi-K3 cookbook 移除 GB 系列 --enable-symm-mem 标志

该 PR 值得快速浏览，但无需精读。关注点在于文档与真实推荐配置保持一致，以及作者对“仅 GB 系列移除、其余平台保留”的谨慎处理。如果想要了解 SGLang 的 cookbook 配置体系，可以顺带观察 `docs/src/snippets/configs/` 下各模型 recipe 的组织方式。

为 Ling-3.0-tiny 新增 INT4 配方与 H200/B200 基准

值得快速浏览，作为 cookbook 新增量化配方的模板参考。重点关注三点：一是 INT4 在 H200/B200 上的实测吞吐与精度数据，二是 `verified: true` 与未验证 cell 的区分方式，三是文档中关于默认 CUDA Graph 与外推能力的描述。若团队准备为其他模型补充 INT4 配方，可复用这套 jsx 配置与基准数据结构。

修复模型加载异常时默认 dtype 未恢复的问题

该 PR 展示了 context manager 异常安全性的最佳实践，值得快速浏览。核心设计决策是使用 `try/finally` 而非 `try/except` 显式处理异常，这是最小且正确的做法。建议后续为该工具函数补充回归测试，并在文档中说明该上下文管理器会无条件恢复全局 dtype。

ReqToTokenPool 槽分配改尾部弹出，热路径由 O(pool) 降为 O(batch)

值得精读。核心看点有两个：一是 memory_pool.py 中 alloc() 的尾部弹出与零长度切片防护，二是测试断言如何随分配策略变化而显式放宽。学习点包括 Python 列表切片复杂度、-0 切片陷阱，以及“不透明索引 + req_generation 代际计数解耦”的池设计思路。

修复多 tokenizer 下调度器 AbortReq 路由丢失致请求挂起

值得精读。改动虽仅 11 行，但卡点在于类型边界的技术权衡：用 getattr 替代 isinstance 放宽输入类型、把类型判断移到 output 上以保证不覆盖已有路由。测试设计（用真实调度器 Req 构造 AbortReq，再经真实 MultiTokenizerRouter._distribute_result_to_workers 验证最终目的地）比纯 mock 更有说服力，可作为多 worker 路由类修复的参考模板。

新增 HiCache 位精确多轮 logprob 一致性测试

值得精读，重点学习其测试设计：用多轮分支 harness 让 cache hit 落在多种前缀长度，再用 write_through、紧 pool、跨 track decode 的组合把隐蔽状态层缺陷放大到 KL=0 可观测。后续改动 HiCache 状态结构或 Mamba track 记账时，应保留该用例并保持其位精确语义。

修复重叠调度下 Mamba track 边界记账竞态

值得精读。PR body 对竞态的推演（尤其是“wait_stream 为什么只是掩盖问题”以及 `mamba_next_track_idx` 双重语义的拆解）是理解 sglang overlap scheduling 与 HiCache 前缀缓存交互的绝佳材料；producer/consumer 指针分离与“per-batch 快照 vs 共享可变状态”的取舍可作为并发状态管理的范例。建议重点阅读 `batch_result_processor.py` 与 `memory_pool.py` 的配套改动，以及 hanming-lu 的 follow-up 统一提交。

升级 CuTeDSL 修复 Blackwell FA4 启动编译回归

值得精读。虽然改动只有 3 个文件、5 行增删，但它展示了一个典型的依赖解析范围交叉导致编译器缺陷暴露的案例，以及“先分析根因再选择前进/回退”的决策方法。对维护依赖清单的工程师有参考价值：范围约束（>=）与传递依赖的版本放宽组合可能引入难以排查的运行时/编译期问题，关键编译链建议直接精确 pin。