A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 yewentao256 · 合并时间 2026-07-10 21:33
删除未使用的 ROCm 稀疏注意力内核
值得作为死代码清理的参考示例，但无需深入审查代码细节。可以向团队推广类似的定期清理实践。
原始 PR · 作者 Functionhx · 合并时间 2026-07-10 20:27
迁移 MistralLarge3 权重加载至 AutoWeightsLoader
建议维护者审查权重映射的验证方法，确保覆盖所有可能的权重名称。此 PR 是标准化模型加载的重要一步，值得关注 AutoWeightsLoader 的使用模式。
修复DFlash草稿/目标模型层数不匹配
建议合并。这是一个高信号质量的bugfix：问题发现精准（V1 vs V2行为差异分析到位）、修复方案简洁（一个字符的配对修改 + 8行输入校验）、且评审者无异议。值得借鉴的是，在核心调试信息模糊时，主动增加显式校验并附带清晰错误消息的做法，对改善开发者体验很有价值。
删除被跳过且冗余的 ViT 功能测试文件
该 PR 是低风险的常规清理，值得合并。建议定期审计被跳过的测试，保持测试套件整洁。
为 MiniMax-M3、GLM-4.5、Nemotron V3 新增 roundtrip 测试
值得合并。这是一个低风险、高质量的测试补充 PR。新增的 fixture 覆盖了 3 种不同的推理标签格式（`<mm:think>`、`<think>`、`<|im_end|>`），丰富了测试矩阵。移除冗余用例的操作体现了良好的工程判断。建议团队在后续新增 parser 路由时，将 roundtrip fixture 作为合入前置条件之一。
原始 PR · 作者 ViranjanPagar · 合并时间 2026-07-10 17:23
添加 NVIDIA DeepStream GPU 视频解码后端
本 PR 展示了与 NVIDIA 专用硬件集成的高性能后端设计模式（Mixin + 惰性池技术），值得精读。但存在若干安全与稳定问题待修复，特别是像素限制检查和锁竞态，建议在后续 PR 中尽快处理。
新增 TORCH_NIGHTLY=1 模式支持 PyTorch nightly 全量CI
本 PR 设计清晰，采用图像交换避免管道复制，值得 CI 维护者阅读。同时可作为一个如何实现 CI 变体配置的参考案例。
启用 Cosmos3 注册测试并注册 Super 变体
建议合入。该 PR 清除了未及时清理的暂存标记，完善了 Cosmos3 测试覆盖和文档，逻辑清晰且风险极低。
参与讨论