sgl-project/sglang

修复 Qwen3.8-27B mamba 缓存比例计算器四个行为偏差，对齐 K3

值得精读。该 PR 展示了文档交互工具如何与服务端运行时语义严格对齐：从引擎实现 `_calculate_mamba_ratio()` 推导用户可见参数公式，以及对'两个方向相反的错误相互掩盖'的归因分析很有教学价值。zijiexia 对'当前无 observable 差异但语义错误'的坚持也是高质量 review 的范例。若团队维护类似的交互式配置器，可借鉴其以服务端为 truth 的推导方式与多路验证手法。

warmup 后冻结 GC，减少请求期暂停

该 PR 值得精读，其"失败不阻塞启动"的降级设计值得借鉴。建议后续补充一个端到端冒烟测试，验证 warmup 后 /freeze_gc 被调用且失败时不影响服务就绪；同时关注 freeze_gc 的内存语义，确认运行时新增静态对象不会导致泄漏。

DeepSeek V4 新增 AMD prefill CP 与 TBO 重叠支持

值得精读，尤其是 split-phase async all-gather 与 duplicate communicator 避免 RCCL 死锁的设计。cp_utils.py 的 launch/finish 句柄（keepalive + event）和 compressor.py 的 prelaunch_kv_score 是可在其他模型上复用的异步通信模式。建议结合 perf_sweep_report §4.6 的结论，明确该特性对输入长度的收益阈值。

更新 CODEOWNERS，为 AMD 模块增补代码评审责任人

不值得精读，属于仓库治理元数据变更。可作为治理流程参考：CODEOWNERS 增补需确认用户名有效性，建议后续引入 CI 校验（如用 GitHub API 验证 owner 是否存在）以避免静默失效。若你在 AMD 团队，注意你已被登记为这些路径的评审责任人。

DSV4 量化内核直出 TMA 对齐 scale，decode 延迟降 1.4%

值得精读。核心设计决策是 producer-consumer 布局 co-design：让量化 kernel 直接产出消费者（DeepGEMM fp8_einsum）所需的 TMA-aligned packed 布局，省掉中间转换 kernel，这是 kernel 优化的典型思路。其次值得关注的是补零处理分配器垃圾、TensorMatcher/RuntimeCheck 对布局的严格校验，以及测试中利用 DeepGEMM 官方 layout helper 做参考、并验证 packed 与 fp32 路径 bit-exact 一致的做法。适合做算子性能优化或 GPU kernel 开发的参考样例。

HiCache DCP 索引翻译改为无同步切片，加载循环提速约 8 倍

值得精读。这个 PR 展示了三个有价值的点：(1) 用步长切片替代布尔掩码索引，从根本上消除 `nonzero` 引入的 device→host 同步——这是 PyTorch 中容易被忽略的隐式同步陷阱，对任何调度器/流内 kernel 逻辑都有普适启示；(2) 对“翻译结果与层无关却被每层重复计算”的浪费做了清晰的代价论证（同步 + 串行化 + 调度线程停滞），并给出量化基准验证；(3) review 中混合注意力路径（HybridCacheController / HostPoolGroup）的边界案例推动了方案从“搬移调用点”收敛为“让函数本身零成本”，最终以 3 个文件、14 行新增的最小改动落地，是一个被讨论打磨到极致的性能修复。建议结合 commit 历史（10 个 commit 的收敛过程）阅读。

修正 dense FP8 Marlin 的 bias 通道顺序

值得精读。改动虽小，却清晰揭示了一个容易踩坑的契约：Marlin 内核的 tile 布局只约束 weight 和 scales，bias 是否置换取决于上层 wrapper 的调用方式。建议关注 `prepare_fp8_layer_for_marlin` 与 dense 层 forward 的约定关系，以及测试中用 patch 实现 CPU-only 验证前置逻辑的手法，这种模式适合推广到其他依赖 GPU kernel 的预处理函数。

为 Xeon CPU 补齐 Gemma4 全链路推理支持

值得精读。重点看三个设计决策：一是 KV-shared 层如何绕过 `is_cross_attn` 的语义错配、在 stage 1 内完成因果掩码并处理空行清零；二是跨平台内核 API 变更时如何同步 x86 / aarch64 双实现并显式拒绝不支持路径；三是 review 驱动的"剪枝"——及时移除 TP3/6 这种过度工程化的 workaround，保持 CPU 配置逻辑集中在 `update_config.py` 一处。