#26279 fix(docker): generate Cargo.lock in chef stage for sgl-router build
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-25 16:54
修复 sgl-router Docker 构建缺少 Cargo.lock 的问题
建议精读以了解 Docker 多阶段构建中处理 gitignore 的常见模式。review 中关于 stub 脆弱的评论值得关注,可在后续 PR 中补充警告注释。
SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-25 16:54
修复 sgl-router Docker 构建缺少 Cargo.lock 的问题
建议精读以了解 Docker 多阶段构建中处理 gitignore 的常见模式。review 中关于 stub 脆弱的评论值得关注,可在后续 PR 中补充警告注释。
原始 PR · 作者 ShangmingCai · 合并时间 2026-05-25 16:51
Mooncake 升至 0.3.11.post1,精简 process_group 调用
该 PR 为常规依赖升级,同时包含一处有意义的逻辑简化。建议合并,但应在合并前确认 `_get_process_group_backend` 的返回类型变化不影响调用者,并考虑后续清理未使用的 `device` 参数。
NPU 平台依赖补齐 torchaudio
建议阅读,NPU 平台维护者可了解依赖补齐的标准模式。不过,建议后续补充 check_env.py 的更新以完善诊断能力。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-25 16:19
新增 experimental sgl-router 每日 Docker 构建 CI
该 PR 是基础设施增强,值得合并。建议后续考虑多架构构建和镜像版本标签策略。
topk_softmax 内核新增 512 专家支持
可快速合并。关注点在于阈值变更后,2048+ 专家模型仍正确使用 workspace。
将 spec-naming 规则改为按需技能,节省无关任务 context
值得简要阅读以了解如何通过技能(skill)优化 Claude Code 规则加载。但规则引用错误需在后续修复。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-25 15:34
实验性 Rust HTTP 路由代理,面向 SGLang 推理节点池
该 PR 为草案状态,不推荐立即合并。但值得所有关注 SGLang 路由层和 PD 分离部署的工程师精读其设计文档和关键源码片段,尤其是 cache_aware_zmq.rs 的选择算法、k8s.rs 的 EndpointSlice 处理、以及 active_load.rs 的 RAII 守卫与 janitor 实现。PR 的分层监督和每 commit 可审查的做法值得参考。
原始 PR · 作者 TallMessiWu · 合并时间 2026-05-25 15:24
新增 Diffusion MXFP4 量化文档
值得快速合并,对用户友好。可参考此文档组织后续量化特性的文档更新。
参与讨论