移植 KPool FP8 索引内核、池化 top-k 变换和 mHC 内核操作,为 GLM 5.3 Flash 支持铺路。
**建议精读**。虽然 PR 本身风险低且无行为变化,但它引入了多个支撑未来重要模型(GLM 5.3 Flash)的关键内核和架构组件(如 KPool 写计划、池化 top-k)。理解这些组件的设计(如 ragged 布局构建、写计划规划逻辑、raw beta 的传递)对于后续的相关开发或 bug 排查至关重要。审阅者指出的代码重复点也值得在后续清理时关注。
标签列表
聚合结果
移植 KPool FP8 索引内核、池化 top-k 变换和 mHC 内核操作,为 GLM 5.3 Flash 支持铺路。
**建议精读**。虽然 PR 本身风险低且无行为变化,但它引入了多个支撑未来重要模型(GLM 5.3 Flash)的关键内核和架构组件(如 KPool 写计划、池化 top-k)。理解这些组件的设计(如 ragged 布局构建、写计划规划逻辑、raw beta 的传递)对于后续的相关开发或 bug 排查至关重要。审阅者指出的代码重复点也值得在后续清理时关注。
DSA 层切分端到端测试迁入基础 B300 CI,回归覆盖提前
该 PR 不需要精读源码,但它反映了 DSA 层切分回归策略的升级信号:组合路径已稳定到可以承担基础 CI 的日常开销。建议关注两点:一是 base-c 的 B300 runner 配额与模型本地缓存管理是否就绪;二是重命名后是否有旧文件名残留引用。如果想了解 DSA cache layer split 的实现细节,可以去读同仓库的 pool configurator 与 DSA 缓存层分配相关代码。
修复 DSA CPU offload 缺少 mamba_indices 参数的 bug
该 PR 是典型的边界案例 bugfix,虽代码量小但在特定场景(DSA + mamba + decode disaggregation)上是关键修复。建议快速合入,并在相关功能测试(如 DSA CPU 卸载集成测试)中补充对 mamba_indices 的端到端验证。