Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

deterministic-inference 相关 PR

2026-08-20

#35632 [Fix] Keep deterministic GDN prefill on Triton

原始 PR · 作者 mmangkad · 合并时间 2026-08-20 19:38

缺陷修复 重要性 6.86 洞察度 6.00

修复确定性推理下 GDN prefill 后端选择,强制 Triton

该 PR 值得精读,因为它展示了如何在性能优化与确定性保证之间做权衡,并提供了清晰的错误处理方式。建议关注 `gdn_backend.py` 中的策略函数和新增的校验函数。