sgl-project/sglang

按模型家族拆分配置覆盖声明，守卫字段重叠

值得精读。重点关注三处设计：一是 `model_override_base.py` 的双视图设计——`ResolvedView`（构造时快照 overlay，适合 post-process pass）与 `ResolvingConfig`（每次读取遍历 stash，适合声明后的实时读取），以及 `collect_model_override_declarations` 的 last-writer-wins 语义；二是"用测试禁止重叠代替 pin import 顺序"的决策，这是对 import 副作用注册体系的正确解耦；三是 `test_model_source_paths.py` 的 mutation 验证方法，展示了如何证明测试真的有效而不是假设有效。后续维护者新增模型家族时应遵守 `model_overrides/` 目录约定并保持单字段单一归属。

读者端配置改问 bags，平台事实统一单地址

值得精读。该 PR 展示了大型配置重构中「机械化迁移 + 语义守卫」的组合拳：每个提交独立可审（commit 3 是风险点，commit 7/10 是它的两个逃生口）；`PlatformContext` 的单一地址设计、`test_pre_publish_readers.py` 从启动源码 AST 派生保护集、`test_platform_address_not_frozen.py` 的模块级冻结扫描都是可复用的测试模式。建议重点阅读 runtime_context.py 的 PlatformContext/override_platform、commit 3 的转换判据（has the reader's process published yet），以及 PR body 给出的三连问（何时运行、持有谁的 record、关闭写回是否破坏了这一处）。同时注意两条未解决的 Codex 意见（describe_kv_events_publisher 的 load_endpoint、冻结扫描覆盖盲区），合并后值得跟进修复。

拒绝分布式执行请求下的原生 Diffusers transformer 回退

值得精读。核心价值不在代码量，而在「准入控制优于静默降级」的设计取舍：用模板方法 + hook 把契约校验注入所有组件 loader，避免了逐个模型特判；报错信息刻意列出全部冲突项并给出两条修正路径，属于良好的用户引导实践。关注 `ComponentLoader` 基类的两个 hook 与 `TransformerLoader` 的具体实现，可作为后续组件加载准入逻辑的参考范式。

修复 fused RoPE 丢弃 mrope 高度宽度坐标

值得精读，尤其是 kernel 层与 rotary 层配合的写法。关注 4 个设计点： 1. 用 `MROPE: tl.constexpr` 区分 1-D 与 mrope 特化，既修复 bug 又不损失 1-D 性能（两个 benchmark 数据佐证）。 2. 行距取 `positions.stride(0)` 而不是 3，兼容 CUDA-graph decode 从宽 buffer 切出的子行。 3. `_build_axis_map` 将三种布局收敛为统一契约，并用 `_legacy_axis_map` 隔离新旧 kernel 的输入差异。 4. 测试特意使用三轴互不相同的位置（t != h != w）来捕捉“只取 row 0”类 bug，并复现 CUDA-graph 的 buffer 切片场景。

多模态 embedding 改用 index_copy_ 合并，削减 prefill 瞬时显存

值得精读。这是一个典型的“PyTorch 高 Layer 算子隐藏瞬时内存分配”的优化案例，展示了如何用 `cumsum` + 哨兵槽位实现低内存且 fail-loud 的 scatter 语义。关注两点设计：一是刻意避免 `torch.where`/`nonzero` 以维持无同步路径，二是用 `num_src_rows` 毒化槽位把行数不匹配变成设备端断言而非静默损坏。若后续在 CUDA 上补齐同样的回归测试，风险将进一步收敛。

更新 DeepSeek-V4 AMD cookbook 配置与镜像标签

建议快速浏览即可，无需精读。值得关注的设计信号是 AMD 团队在 ROCm 7.2 上对 DeepSeek-V4 的推荐参数组合：TORCH_BLAS_PREFER_HIPBLASLT=1 与 16384 chunked-prefill 的搭配；在 AMD 上部署的用户可先小规模验证显存峰值与吞吐后再全量采用。另注意 PR 标题写 0830 而实际镜像标签 bump 到 0829，日期命名略有不一致。

修复 disaggregation 中任务引用丢失，防止后台任务被 GC 回收

值得精读，但收益主要在“模式”而不是“逻辑”：这是一个将 asyncio 官方建议落地为统一代码惯用法的教科书式小补丁。推荐关注三点：set + `add_done_callback(set.discard)` 的组合如何同时解决强引用与自动释放；rebase 过程中如何识别出上游已用 `asyncio.wait` 兜住引用的变化并主动丢弃 hunk；以及审阅者关于 hardening 与 bugfix 的定性争论——它提醒我们在评估此类修复时要区分“理论隐患”与“实际触发路径”。

将 kv_committed_len 写入收拢进 KV 分配函数

值得快速阅读，不必精读。重点关注两个 alloc 函数尾部循环的「分配即提交」记账模式，以及 `_OWNER_SITES` 用 mutation-count 强制审计写入点归属的测试设计——这是 sglang 保护核心记账不变量的一种轻量而有效的做法。对于想理解 owned-KV 解耦重构链的读者，可把它作为入口之一。