新增 SSD Expert Pack 加载,支持 DeepSeek-V4 与 Kimi-K3 超显存运行
值得精读。这是 SGLang 首次把 MoE 路由专家整体下沉到 SSD 的成熟实现,`ExpertPackStore` 的缓存/预取设计与完整 fail-closed 校验体系(identity 三元组、manifest 对账、stats 健康信号)有很高参考价值;review 中 BBuf 对"共享路径行为变化""参数校验聚合""校验成本与安全"的追问也值得学习。建议关注 pack 格式的版本演进、`gguf.py` 行为变化对非 expert-pack 模型的影响,以及 #36803 之后 `deepseek_v4.py` 的深层状态。
参与讨论