radixark/miles · 标签视图

镜像钉死 cutlass-dsl 4.6.2 与 flashinfer 0.6.15.post1，修复 B300 训练挂起

值得精读。虽然只是单文件 Dockerfile 改动，但它演示了一套高价值的镜像依赖治理模式：区分"元数据版本"与"实际加载 runtime"、用 force-reinstall + 构建时断言锁定镜像、基于上游回归链（sglang#31625 → #31927）谨慎选择修复版本。对负责镜像构建、发布流程以及 Blackwell/B300 训练基础设施的工程师尤其有参考价值。

按后端 scale 格式门控 ue8m0 权重量化

该 PR 值得快速精读，尤其是 3 个 commit 反映的方案演进：从 `DEEPGEMM_SCALE_UE8M0` 门控改为真实 TE 环境变量门控，体现了“用训练侧事实约束转换侧行为”的设计思路。值得关注的设计决策：把后端能力判断（DeepGEMM 是否支持 ue8m0）与训练侧 scale 格式选择解耦。建议后续补充：环境变量缺失兜底、AMD gfx942/gfx950 分支、以及针对转换输出的回归测试。

修复 sparse_mla_bwd NaN 并新增 GB300 RL 训练配方

值得精读，重点看三点：一是 PR body 对 kernel miscompile 的论证——为什么 Hopper 没炸不能作为 gate 条件，正确性修复不应依赖调度巧合，这是编译器 pass 配置踩坑的宝贵案例；二是显存瓶颈的实测推理——KV pool 而非 max-seq-len 才是 context 上限，mem-fraction 从 0.75 提到 0.85 是数据驱动而非拍脑袋；三是 --sglang-config 把复杂 rollout 引擎形状抽象为两个具名配方，并在 __post_init__ 用 assert 拒绝无法表达的组合，这种配置设计模式可直接借鉴到其他启动器。

NVFP4 转换器压缩 BF16 MoE 排除项，冗余从 3571 降至 499

值得快速精读 `tools/convert_hf_to_nvfp4.py` 的 else 分支，理解“动态 BF16 层专家折叠为容器、同时保留层前缀与容器前缀”的取舍。对维护量化转换管线的同学有参考价值；注意测试当前被 CI 禁用，合并后建议留意后续启用时机。

B200 上 GLM-4.7-Flash 改用 paged MLA prefill 修复 rollout

值得一读，但主要是启动器层面的硬件适配，不需要深挖核心库。可关注两个设计点：一是用「launcher 参数按硬件分支」而非改核心 backend 来规避硬件兼容问题，保持了核心库的整洁；二是显式保留 `sglang_attention_backend` 透传口子，给用户留了绕过默认路径的逃生舱。后续建议在 sglang 升级时重点回归 B200 的 MLA prefill 路径。

DSA indexer wk 改发 bf16，修复 Blackwell 在线权重同步

该 PR 值得精读，尤其关注在线权重同步与量化格式匹配的问题。设计决策是选择直接发送 bf16 而非尝试适配 ue8m0，简化了路径且成本可接受。建议后续增加针对该场景的回归测试。