sgl-project/sglang

Req.kv 常驻化，KV 归属统一由 req_pool_idx 判定

值得精读。这是 SGLang mem_cache KV 所有权重构系列的开篇（分支名 `lsyin/kv-ownership-pr1`），`is_holding_kv` 单一谓词 + eager 对象 + 清零释放的组合是后续 #37094、#37108、#37164 的阅读前提。建议重点理解三处：`ReqKvInfo.is_released`/`mark_released` 的契约、`release_kv_cache` 收紧后的断言、以及 `streaming_session.py` 中 slot 与 req 之间的所有权转移方式。

优化 Pi0.5 推理并引入有界 CUDA 图缓存

该 PR 值得精读，尤其是有界 LRU 图缓存的 `CUDAGraph.reset()` 生命周期管理、exact 与 bucket 两种模式的回退路径，以及 `MergedReplicatedLinear` 的 shard 加载设计。关注点：BF16 舍入差异与容量回退带来的服务质量抖动。可作为 VLA 推理优化的参考实现。

修复 NVFP4 扩散模型在 sm_120 上不可用的问题

值得精读，特别是理解默认后端选择逻辑和 TMA 布局的必要性。该 PR 体现了对硬件能力差异的精细化处理，以及删除不可达代码的整洁重构，适合作为后续支持新 GPU 架构的参考。

修复图像编码器折叠建议被静默跳过，改用真实 PipelineConfig

值得精读。该 PR 是一个典型的小而关键的 bugfix：一行字段名错误导致整个特性静默失效，且测试 fixture 恰好掩盖了问题。值得学习的是将测试从 `SimpleNamespace` 迁移到真实配置的做法，以及针对策略矩阵和维度整除性的测试设计。

修复显式组件卸载与固定驻留冲突，拒绝冲突配置

该 PR 值得精读，尤其是 `require_component_resident` 中 `explicit_residency_mode` 与 `canonical_residency_mode` 的区分，这是配置校验设计中的关键权衡。测试用例覆盖全面，可作为类似冲突检测的参考。

三份 cookbook 精度复现命令迁至 sgl-eval run

建议快速浏览：如需通过 sgl-eval 复现模型精度数字，本 PR 是标准示例，重点看三个页面的参数映射（seeds 到 --n-repeats、tokens_to_generate 到 --max-tokens、并发数到 --num-threads）与默认 prompt 处理；无需精读，不涉及架构或性能决策。

镜像预装 AI Dynamo nightly，免去手动安装步骤

值得快速浏览但无需精读。关注两点：一是 `ai-dynamo` 刻意不 pin 版本，镜像可复现性依赖缓存层状态，生产环境建议考虑固定版本或在独立 target/layer 中安装；二是 trevor-m 指出的 numpy 隐式降级需评估对镜像内其他组件的影响，建议在合并后补充一次完整镜像构建与冒烟验证。

量化组件若可被 Transformers 识别则委托其加载

值得精读，尤其是 `component_loader.py` 中注册表驱动的格式探测与 `text_encoder_loader.py` 的多失败时点委托设计。关注点：1) `uses_native_transformers_quantization` 把格式支持矩阵委托给 `AutoHfQuantizer`，避免 SGLang 侧重复维护；2) `NativeComponentLoaderRequired` 异常作为控制流，既保持 native 优先又不牺牲 fail-closed；3) `_native_load_manages_placement` 把设备放置责任显式化，避免量化权重被后续 `.to()` 迁移破坏。