MiniMax M2.5/M2.7 文档新增性能优化标志
可直接合并,已通过审核。值得精读以了解 MiniMax 在 NVIDIA GPU 上的最佳实践配置。
SGLang is a high-performance serving framework for large language models and multimodal models.
MiniMax M2.5/M2.7 文档新增性能优化标志
可直接合并,已通过审核。值得精读以了解 MiniMax 在 NVIDIA GPU 上的最佳实践配置。
将 DFLASH worker 基类代码合并到 V2 并继承 BaseSpecWorker
建议审核确认移动完整性,特别是 property 重命名处。该 PR 是重构的好示例,适合希望了解如何安全地折叠类层次的人员阅读。
移除 DFLASH V1 worker 路径,统一 V2
建议所有 DFLASH 开发者阅读此 PR,理解 V1 路径删除的原因和 V2 worker 的统一行为。特别是环境变量 `SGLANG_ENABLE_SPEC_V2` 语义的变更需要注意。该 PR 是架构清理的良好范例。
撤销 #27529 导致的 DeepSeek V4 性能回归
建议仔细阅读 #27380 的变更,确认其确实解决了原生 dtype 不匹配问题。同时建议在 AMD 硬件上运行 DeepSeek V4 的回归测试,验证性能回归已被修复且原始错误不重现。该 PR 本身是安全的回滚,但应关注后续可能仍需修复 #27529 提出的 dtype 统一问题。
原始 PR · 作者 michaelzhang-ai · 合并时间 2026-06-12 05:24
跳过 AMD 下 DSA 设备到主机 direct 测试
值得快速合并。该 PR 简洁地修复了特定 AMD 平台上的 CI 失败,且作者已通过两次 CI 运行验证。不涉及生产逻辑,无需深入 review。
调高推测解码 logprob 匹配阈值以适应 bf16
此 PR 是常规测试维护,不值得精读,但可关注其阈值设定逻辑作为测试健壮性设计的参考。
禁用虚权重测试的 NaN 断言崩溃
该 PR 是典型的测试基础设施修复,改动简单直接,适合快速合并。开发者在类似场景(虚权重测试)中可参考此模式来避免断言影响。
为 weireweire 添加 CI 权限
此 PR 为常规的权限管理变更,技术洞察价值低,无需精读。
参与讨论