sgl-project/sglang

修复 MiMo 模型在 HiCache 中因 v_head_dim 缺失导致的 V 缓存分配错误。

该 PR 值得精读，因为它揭示了 KV 缓存池在支持异构注意力头维度时的设计缺陷。关注点包括：`v_head_dim` 如何从模型配置中派生，以及不同硬件后端（如 NPU）的参数兼容性处理。

为 MUSA 后端添加 HiCache 支持，修复因使用 CUDA 特定路径导致的启动崩溃。

此 PR 值得快速浏览，特别是对于关注 MUSA 支持或内存管理模块的工程师。关键设计决策在于复用现有 `alloc_with_pin_memory` 路径来避免 CUDA 依赖，这展示了跨后端兼容性的通用模式。建议关注 review 中提到的设备字符串匹配问题，未来可能需要更健壮的映射逻辑。

调整 Xeon CI 并发策略，PR 提交时取消排队中的旧运行以加速反馈。

该 PR 变更简单直接，无需精读源码；建议团队关注 CI 配置的此类优化模式，可在其他类似工作流中考虑应用相同策略以提升整体 CI 效率。

分割 B200 CI 测试套件以支持低磁盘容量 runner 池，优化资源分配。

对于 CI 维护者和基础设施工程师，值得精读以了解测试套件分割策略、runner 标签设计和负载均衡调整；一般工程师可关注变更对测试运行时间和资源分配的影响，无需深入代码细节。

为 LFM2 MoE 模型添加 Triton 内核调优支持及针对 H100/B200/MI325X 的优化配置。

建议技术管理者和工程师精读此 PR，重点关注： - `common_utils.py` 中的模型配置提取逻辑，了解如何适配新 MoE 架构。 - JSON 配置文件的结构和参数选择，学习 Triton 内核调优的最佳实践。 - 讨论中提到的代码重复问题，可作为重构机会以提升代码库可维护性。

为夜间测试套件添加/rerun-test命令支持，扩展CI工具能力。

此PR值得快速浏览以了解CI工具的扩展点，但不需深入分析。关注点在于如何将CI工作流配置映射到命令行工具，这对于维护类似基础设施的团队有参考价值。

将 SGLANG_PATCH_TOKENIZER 环境变量默认值从 False 改为 True，以提升 Kimi tiktoken 分词器性能。

该 PR 值得快速浏览以了解默认配置的变更及其性能影响。关注点在于：1) 环境变量默认值的调整如何影响 Kimi tiktoken 分词器的性能；2) 用户回退机制的设计。对于深入优化分词器路径的开发者，可进一步查看 `SGLANG_PATCH_TOKENIZER` 在代码中的使用位置。

在请求回退期间添加MambaPool的KV缓存卸载，确保Mamba混合模型的完整状态保存和恢复。

该PR值得精读，重点关注HybridLinearKVPool的设计，学习如何通过可选参数扩展缓存池以支持多种状态类型的联合卸载，以及CPU-GPU数据传输的同步机制。