sgl-project/sglang

trtllm_mha 新增 fmha_v2 预填充后端，支持 SM90/120

值得精读，尤其是后端分发与依赖版本校验结合的设计模式。建议结合 PR body 中引用的 #32272（KV 交织优化）和 #32268/#32269（MTP 精度上报）一起阅读，才能看到 fmha_v2 的完整性能收益；同时关注后续是否为该分支补充单元测试。

VAE tiling/OOM 提示修正，NVFP4 增加卡型门禁

值得精读。本 PR 展示了三条可复用的工程方法：一是把"静默吞异常"改造为"诚实告警"且不破坏现有调用；二是修建议类日志前先做因果归因（区分权重移动与激活值溢出）；三是用"能力不可知时放行"的保守策略实现硬件门禁，既解决虚假表象又避免误伤。重点关注 `decoding.py` 的异常守卫缩窄论证和 `ModelOptFp4LinearMethod.__init__` 的门禁设计。

提取共享 checkpoint 量化元数据解析器，统一三处查找来源

值得精读。该 PR 是一个教科书式的“抽取共享解析器”重构：用纯数据 dataclass 承载解析结果、显式声明不推断 `quant_method`、以 `deepcopy` 隔离 loader 副作用，配合聚焦的单元测试和回归测试约束行为。对后续要在量化配置解析上扩展（如新增来源、统一多 consumer）的开发者是很好的参考。

三套有损加速改为按请求开关，同部署混合精确与加速

值得精读。本 PR 的价值不只是加参数，而是确立了一个可复用的设计模式：request-scoped 有损加速的统一治理。重点关注三处——(1) `DenoisingStage._maybe_override_attention_backend` 的两阶段原子切换与 `_validate_attention_backend_override` 的集中式原因收集；(2) `layer.py` 中 `prepare` 与 `apply` 分离的可失败/不可失败接口划分；(3) `cache_dit_overrides_key` 用冻结元组做挂载变更检测的思路。这些模式可以直接借鉴到其他按请求切换执行路径的子系统。

打包视觉塔 + 并发预处理 + CUDA 图，OCR 吞吐近 2 倍

值得精读。设计层面有四个可复用点：宿主端边界避免 device-to-host 同步、LFU 位置编码缓存、kernel==stride 时 conv 到 matmul 的算子降级、多模态架构在 CUDA graph allowlist 上的回归。流程层面，作者对 worker 数和 vLLM 对比数字的两次自我纠偏，以及把“逐位精确”与“GEMM 容差”分开断言的测试哲学，是高质量性能工程的范本。建议后续在引入低精度或新后端时重点回归数值一致性。

修正 initialize_model_parallel 并行组布局 docstring

不值得精读，但可作为 API 文档纠错的快速参考。值得关注的设计决策是：作者通过补充 `attn_tp_size = tp_size // attn_cp_size // attn_dp_size` 推导公式，让文档结论可以被计算验证，而不仅仅是改一行描述；这种用公式支撑示例的写法可以推广到其他并行布局说明中。

DFlash2 新增局部卷积与候选选择器，draft 接受率吞吐大幅提升

值得精读。三个设计决策尤其值得学习：(1) 无损失 verify 的结构性保证——把 q 定义为'实际抽取到的分布'，贪心即点质量；(2) 一个 CUDA graph 同时服务贪心与采样，通过 host 侧 `stage_sampling_params` 静态刷新温度与 `greedy_mask`；(3) Triton walk 以单 program + 寄存器驻留解 slot 依赖，把成本与 batch 解耦。建议后续关注：为新 Triton kernel 与 flashinfer 降级路径补充更深的集成测试，并对大 `top_k` 的寄存器压力做 profiling。

Docker 改用 venv 安装 sglang，规避系统包冲突

值得精读的唯一一个文件（`docker/Dockerfile`）展示了镜像构建中的一项通用最佳实践：用 venv 隔离运行时 Python，替代 Ubuntu 24.04 的 PEP 668 `--break-system-packages` hack。核心启发是跨多 stage 的路径迁移必须全局一致性核对，建议后续为镜像布局增加构建期断言（如构建后检查关键路径存在）。实现本身逻辑直白，maintainer 可快速合入。