sgl-project/sglang

5090 MiniMax-H3 用例连发两次 warm 请求并收紧基线

值得快速阅读：它展示了如何用最小改动（一个字段 + 一层循环）把"单请求正确"升级为"跨请求无泄漏"的 CI 防线，测试设计思路可复制到其他长生命周期服务场景。建议重点看 `_test_diffusion_generation_impl` 的循环改法和 `_make_5090_h3_consumer_budget_case` 中通过环境变量模拟受限硬件的技巧。若团队后续修改 layerwise offload 或 VAE residency 逻辑，这个用例就是第一道回归防线。

ROCm 上 DSv4 top-k 用满 1024 线程块，解码吞吐提升约 3%

值得精读，尤其适合关注 GPU kernel 性能分析或 AMD ROCm 优化的工程师。两个值得借鉴的设计决策：一是用「kernel 时间是否随 batch 增长」来判定延迟受限还是吞吐受限，从而确定优化方向；二是单元测试 pin 住 kernel 契约（结果正确性）而非具体 block size，让测试在 512/1024 两档下都有效并顺带守护 CUDA 路径。若要跟进，可关注 CI 失败原因与 GSM8K 微小波动的后续表现。

Kimi-K3 新增 ROCm Radix-4 MoE top-k 路由内核

值得精读，重点关注三点：1) “并列契约”设计——两个实现按批大小分工时如何保证行为一致（复刻 + 对拍钉死），是自定义内核替换第三方库时的通用范式；2) 门控分层——服务侧 available() 吞编译失败保可用性，测试侧 supported_hardware() + build() 让编译失败变红色，同一内核两种门各有取舍；3) 内核侧 radix-4 直方图 + DPP 前缀和 + ballot 的组合，以及“轮数随 key 位宽而非 topk”的复杂度论证。若团队在 AMD 上跑 Kimi-K3，建议开启 SGLANG_K3_RADIX4_TOPK，并在升级 aiter 时留意对拍测试是否变红。

_is_watermark_ready 上移 StagingManagerMixin，消除 Mooncake/NIXL 重复包装

建议快速阅读。该 PR 本身逻辑简单（方法移动 + 参数统一），但有两个值得借鉴的点：一是「AST 等价性证明」作为纯重构的验收手段——当目标路径需要昂贵多 GPU 环境、本地无法运行测试时，用可复现的脚本证明 old == new，比口头声明「行为不变」更有说服力；二是对「参数重命名是否安全」的严谨论证——先查调用点调用方式，再下结论。建议与 #35948、#35980 一起阅读，完整理解 disaggregation 清理系列如何逐步收拢重复代码与 import 乱象。

Mooncake 收发端 failure_exception 抽为共享 mixin，纯重构

值得快速阅读：真正的价值不在代码本身，而在两个设计决策——一是为什么用 mixin 而非基类方法（避免给形态不同的子类塞入不可达实现），二是为什么主动拒绝跨后端统一（用少量重复保护错误路径的局部性）。作者用 AST 等价性 + MRO 模拟验证纯移动重构的方法，也值得在同类改动中复制。无需精读。

刷新 Ascend NPU 支持模型与参数功能矩阵

值得快速浏览：可借此了解 Ascend NPU 当前真实的能力边界（调度、MoE 并行、SWA、LoRA、多模态模型等）。不建议精读代码，因为没有代码变更。关注点放在 `--retraction-policy`、`--enable-session-radix-cache`、`--default-chat-template-kwargs` 等新声明参数的语义，以及 grok-2 移除是否影响现有部署。对维护者的建议：后续类似状态升级应附上对应适配 PR 链接或验证命令，增强文档可信度。

将编码器 I/O 线程数环境变量注册进 Envs 描述符

值得快速浏览，不必精读。PR 本身改动极小且论证充分（等价性表格 + 静态检查），作为 disaggregation 系列清理的收尾没有惊喜；更值得关注的是其 PR body 中识别的 `SGLANG_VLM_CACHE_SIZE_MB` 40 倍默认值差异——这是一个真实存在的配置一致性隐患，建议跟进单独修复。可借鉴的设计习惯是：坚持所有 `SGLANG_*` 变量注册进 `Envs` 并用描述符读取，使变量对测试可见、可 override、可审计，裸读环境变量会让默认值漂移变得不可见。

组件闲置期暂存非层权重至主机，缓解显存压力

值得精读。这是 layerwise offload 体系的关键补全，有四个值得借鉴的设计决策：① 用“真实可用显存 = driver 空闲 + allocator 未使用预留”衡量 headroom，避免 warm 进程下被缓存分配器误导；② 用 `PARK_SIGNIFICANCE` 阈值把“主观偏好”转化为“实测门控”，避免大显存卡白付传输成本；③ 占位符按 `(device, dtype)` 共享而非逐权重分配；④ 刻意不用 pinned memory，换取内核可回收的主机内存。注意 PR 中的 denoise 性能数据因关联 bug 已失效，合并后应在真实 GPU 上重新测量传输开销。