Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

nvidia 相关 PR

2026-08-27
基础设施 重要性 6.01 洞察度 6.00

新增 CUDA 13.4 容器与 nightly 流水线,初步支持 Rubin sm_107

值得容器与 CI 基建团队精读。该 PR 展示了在一项硬件工具链尚未正式发布时如何搭建「可用优先」的构建栈:预览源引导、公共 NCCL 回退、C++ 标准参数化、三大 wheel 内联重编、cutedsl 架构降级,这些 trade-off 与『同层清理预览源而非 apt pin』等细节都值得借鉴。对应用层工程师价值有限,可只关注 nightly-cu134 镜像的可用性与 flashinfer 冷启动的注意事项。

2026-06-08
缺陷修复 重要性 6.46 洞察度 5.00

修复 DP attention 路径端口溢出当基础端口接近 65535

该 PR 修复了实际用户报告的启动崩溃问题,设计上兼顾了多节点确定性要求,且对非溢出场景零影响。建议合并,并考虑后续为端口分配逻辑补充单元测试。

2026-05-13
缺陷修复 重要性 5.02 洞察度 5.00

修复 Blackwell 上确定性推理后端顺序错误

该 PR 值得阅读,它揭示了一个因初始化顺序导致的边角 bug,展示了在复杂配置初始化流程中,细节的调用顺序可能引发难以预料的错误。对于需要维护 `__post_init__` 类似初始化流程的开发者,此 PR 是一个良好的警示。