Prhub

#8230 [rollout, sglang] fix: use SGLang's Triton MoE runner for bf16 rollouts on Blackwell

原始 PR 作者 wengeezhang 合并时间 2026-10-14 19:58 文件变更 2 提交数 3 评论 1 代码增减 +34 / -1

执行摘要

尚未生成分析

分析结果尚未生成

可以先查看基础指标和原始 PR,待分析完成后这里会补齐摘要、风险和完整报告。

实现拆解

还没有实现拆解

分析完成后,这里会展示关键文件、模块状态和带详细注释的源码片段。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险面板待生成

分析完成后,这里会补充风险标签、影响范围和建议动作。

关联 Issue

#27787 [Bug] BF16 RL weight update with non-routed `moe_runner_backend=flashinfer_trtllm` crashes in `_load_w13` with 64-vs-2048 shape mismatch (blocked/padded w13 layout not restored on the update_weights_from_tensor path)
#33743 [Fix] moe: Fix flashinfer TRT-LLM BF16 expert weight reload on refit
#44163 [RL] Restore the flashinfer_trtllm bf16 MoE weight layout in weight-update sessions
#8229 [rollout, sglang] bf16 MoE weight sync crashes on Blackwell with SGLang's default MoE runner (flashinfer_trtllm)

参与讨论