sgl-project/sglang

拆解 Rust 服务器模块并统一 MM 命名

值得精读，尤其适合想理解 embedded Rust server 架构或准备做大规模安全重构的工程师。看点：(1) 平铺兄弟模块（不用嵌套目录与 `mod.rs`）的组织取舍；(2) `#[cfg(test)]` 控制测试专属导出，防止生产代码依赖只存在于测试构建的路径；(3) 术语统一（Native → Rust）如何降低跨语言维护成本；(4) `non_mechanical_provable` 提交拆分纪律——每个 commit 单独可验证；(5) `to_scheduler_validation.rs` 中 `check_total_tokens` 对 FSM 顺序限制的注释（Python 先校验后 verify，Rust 只能在截断处补断言）。若只关心推理功能，可跳过本 PR 的功能细节。

保留引擎启动前的延迟解析声明，防止 Dynamo 配置被丢弃

值得精读。虽然 diff 极小，但它定义了一个重要的状态语义契约：`_resolved_overrides` 不再是解析管线的内部临时变量，而是 launcher 与引擎之间的声明通道。阅读重点：`run_resolution_pipeline()` 的初始化顺序、`declare_late_resolution()` 的 append 语义、以及 dummy 路径下声明跨多次解析存活的隐式不变量。对维护配置解析、launcher 集成的工程师有直接参考价值。

修复 Mooncake benchmark 字典行下访问 prompt 崩溃

值得简单浏览：原因在于它展示了如何在 benchmark 入口区分‘数据格式未转换’与‘已转换的强类型对象’，以及如何避免在公共入口中堆积数据集特判。Mooncake 相关逻辑仍集中在 `serving.py`，未来可考虑将 trace 行的转换提前到数据加载阶段，从根上消除这类分支。

wfaas 钉版升至 1.0.2，修复 ContinueNextStep 依赖死锁

值得精读，但重点不在代码而在方法：PR body 对 wfaas 调度器 bug 的根因追踪（tracker 记录与调度器信号两个状态源的错位、workflow 形状分析、生产影响还原）是教科书级的依赖 bug 分析；审核人的独立验证和“触发条件比描述更窄”的纠正也展示了良好的协作模式。可关注的设计决策包括：在精确钉版纪律内选择最小修复版本、用判别性测试矩阵双向验证 pin 版本、以及如何为钉版依赖建立定期回访机制（如 Dependabot 或专门巡检）。建议后续跟进把判别测试入库，并评估 1.1.0 与 #32322 的落地。

打通 mixed chunk 与投机解码的组合降级路径

值得精读，尤其关注两条设计决策：一是把混合 step 的降级契约表达为 `supports_mixed_chunk()` 能力位而非算法字符串硬编码；二是 overlap 下“调度期占位 + forward 入口晚期绑定”的尾部重建模式（`resolve_mixed_spec_tails`），它绕开了 CPU 无法得知在飞 accept 数的根本矛盾。阅读建议：先看 `mix_with_running` 与 `resolve_mixed_spec_tails`，再读测试文件中的三个 cell，最后按 commit 顺序浏览 [Fix] 记录理解每个坑的成因。

新增 Rust TreeCore 缓存后端与共享一致性测试套件

值得精读的架构级 PR。重点学习：1）FFI 边界设计——owned snapshot、tagged tuple 编解码、禁止迭代器跨 Rust 边界、inspection binding 与生产 binding 严格隔离（wheel 内校验无 inspect_* 方法）；2）双后端共享测试套件的一致性验证策略，比后端各自复制测试更能暴露语义差异；3）fail-fast 特性管理——不支持的组合在构造期显式拒绝并附 TODO(Jialin)，避免不完整语义静默运行；4）TreeComponent trait 抽象让 Python 语义可以逐方法移植，每个方法都带 Python 参考实现注释，是跨语言移植的良好范例。

融合 FLUX.2 token 拼接与 NVFP4 量化，端到端提速 2.4%

值得精读。对做 diffusion/quantization 性能优化的工程师尤其有参考价值：一是"融合 kernel 如何做到 bit-exact"——通过复用与 FlashInfer 完全相同的 `cvt_warp_fp16_to_fp4` 原语和 `get_sf_out_offset_128x4` swizzle 偏移，从根上保证布局一致，再用字节级 `torch.equal` 与端到端像素比对锁定；二是 fallback 门控的完备性设计——`try_flux2_token_cat_nvfp4` 把能力探测、环境变量、dtype/stride/alignment、行数上限、编译与 capture 状态全部聚拢在一个函数里，任何不确定场景都安全回退；三是与 #37096 的划界方式——本 PR 保持 bit-exact，非 bit-exact 融合单独走 `--quality=high` 门控，避免两条优化路线互相污染。

GB300 GLM-4.5 FP8 新增 Triton MoE 配置，吞吐提升约 22%

值得性能工程师精读。它展示了 SGLang Triton MoE 配置系统的设计要点：通过文件名编码 device、Triton 版本、dtype、量化模式与形状选择器，配置与代码解耦。同时也呈现了完整的调优验证流程：microbenchmark 定位、端到端服务压测、精度对比与 CUDA Graph 捕获验证。需要注意该 PR 最终没有携带自动化测试，建议关注合入后该 lane 是否会被后续重构影响。