sgl-project/sglang

CI 磁盘清理改为按空间条件触发

值得快速阅读，作为 CI 按需执行昂贵清理的典型示例。设计上先量化开销（80 秒删除约 1M 个文件）再引入条件化，思路清晰；后续可考虑把 `df` 解析包成可复用的 Action 或统一放到 `prepare_runner.sh`，并补充空值防御。

DSV4 官方 reasoning effort 三档 profile 支持

值得精读。核心看点在 chat_encoding.py 的‘不执行代码的 checkpoint 元数据探测’设计（AST + literal_eval、大小上限、三级回退链）以及 encoding_dsv4.py 的 profile 映射表——对需要按模型版本切换 prompt 契约的 serving 框架有直接借鉴价值。建议同时阅读配套单测理解各回退分支的覆盖方式。

GEMM 后端单测接入真实层与权重加载器

值得精读：它是一份'如何把后端单元测试做成真实语义'的完整样板——真实模块构造 + 真实 weight_loader + 真实前向，只保留 torch 参考为手写，并把可复用夹具与参考编解码抽成共享模块。对计划新增 quant 后端单测的开发者，`sglang.test.layer_ut_utils` 与 `sglang.test.quant_ref_utils` 是直接可用的模板；`_make_merged_layer` 的注释与 shard-scale 折叠说明，也是理解 `process_weights_after_loading` 行为的上手材料。需要留意：该 PR 依赖 SM100+ 硬件验证，阅读时可结合 #33596 / #33611 一起看，了解测试体系从 e2e 到 layer 级再到真实 loader 的三步演进。

双 ABI Rust 缓存提速 CI，移除预校验 pass

值得精读，尤其适合 CI 与基础设施维护者。本 PR 展示了三个可复用设计：以双 ABI 预编译缓存换取安装期零编译的权衡；用 pre-commit lint 强制两处无法互相引用的配置默认值保持同步，把静默失败挡在提交前；对跨容器共享缓存采取保守清理（不删锁、加年龄门槛）。仅关注推理引擎运行时的读者可直接跳过——运行时零改动。

消除 TRTLLM MHA 解码图内每层临时分配

值得精读。该 PR 虽然代码量小（+36/-2），但精准命中 CUDA 图捕获中的典型陷阱——把启动开销极小的 fill kernel 也烘焙进图回放。核心设计决策是：把易变对象的生命周期提升到 backend 实例、在图外一次性分配，并用 get_buffer 共享常量张量。建议重点关注 make_persistent_multi_ctas_kv_counter_buffer 的复用方式与 batch 上限推导，这对其他受 CUDA 图约束的后端优化有直接借鉴价值。

XPU 为 FLUX.2 接入融合 QK-norm+RoPE，覆盖单流块

值得精读 layernorm.py 中「融合路径 gate 而非 assert」的 fallback 设计：CUDA/XPU 各自有 dtype、shape、contiguity 条件，不满足时优雅降级到原生路径，保证正确性优先。同时 review 中关于 Python 层逐点校验开销、`@cache_once` 与 C++ 校验下沉的权衡，以及『设备分支不应污染模型文件』的取舍，都是多平台推理框架开发的典型决策案例，建议一并阅读讨论记录。

修复 NPU PD 分离 send_kvcache 缺参错误

值得快速浏览：这是一个典型的后端子类与基类 API 漂移的修复样例，可作为多后端模块（Mooncake、Ascend、HiSparse）接口同步维护的参考。建议后续为该类共享传输接口补充一个契约测试或基类抽象方法，防止类似问题再次发生。

gRPC 增加生成控制，并重构 n>1 并行采样 RID 生命周期

值得精读两个层面：一是 `request_utils.rs` 中 proto → GenerateReqInput 的映射与校验（特别是 choices 转义、unset/false 区分、legacy 兼容），这是 gRPC 桥接层值得复用的范式；二是 merrymercy 的 post-merge review 与 #34160 回滚，作为"过度工程化"的反面教材——面对边缘场景应先评估调度器已有能力（如 startswith RID 匹配）。不建议在新代码中沿用本 PR 的 lifecycle 机制。