#48878 Add blocks_per_chunk configuration for KV offloading to support heterogeneous KV cache groups
原始 PR · 作者 Debasish-87 · 合并时间 2026-07-17 14:00
新增 blocks_per_chunk 配置支持异构 KV 缓存
建议精读以了解配置扩展模式。关注 `build_offloading_config` 中互斥校验的实现思路,可作为后续类似配置扩展的参考。
参与讨论