#45908 fix(security): enforce audio decode duration limit in chat completions path
原始 PR · 作者 jperezdealgaba · 合并时间 2026-06-17 19:07
修复音频解压炸弹防护绕过
值得合并,修复了一个安全遗漏。建议后续补充测试,确保该限制不被后续重构绕过。
A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 jperezdealgaba · 合并时间 2026-06-17 19:07
修复音频解压炸弹防护绕过
值得合并,修复了一个安全遗漏。建议后续补充测试,确保该限制不被后续重构绕过。
原始 PR · 作者 wentian-byte · 合并时间 2026-06-17 18:37
修复 PPL 测试数据集 ID 兼容性问题
建议合并。这是针对上游库 API 变动的必要兼容性修复,改动极小且已验证正确性。值得关注的是这类依赖升级引发的测试失败模式,团队应建立定期检查测试依赖兼容性的机制。
原始 PR · 作者 nikhilesh-csa · 合并时间 2026-06-17 18:16
修复Gemma4 post-tool推理泄露到content
值得精读,尤其关注:\n- 如何在不破坏现有流程的前提下引入状态调整钩子(通过标志 `_prompt_streaming_prepared` 保证只执行一次)。\n- 设计决策:复用 `is_reasoning_end` 避免重复扫描逻辑,no-op 过渡处理边界情况。\n- 命名哲学:`adjust_initial_state_from_prompt` 准确表达了意图。\n- 测试设计:同时覆盖回归用例和鲁棒性用例,以及确保新回合不受影响。
修复 MiniCPM-O resampler 设备放置错误
值得精读的 small fix 示例。展示了继承层次中父类-子类责任链断裂的典型排错思路:子类覆盖父类方法并重写了权重加载逻辑,但遗漏了父类中的设备后处理步骤。对于使用多模态模型的开发者,建议关注模型初始化时的设备一致性问题。
KV离负载刷新从阻塞改为非阻塞步进
值得精读,特别是对于需要将阻塞操作改为异步非阻塞的场景。该 PR 展示了如何通过一个简单的检查点将引擎步进与传输解耦,同时保持接口一致性。
Rust前端支持external/hybrid DP负载均衡
值得阅读,特别关注Python如何根据`local_engines_only`推导`engine_start_index`以及Rust侧如何验证引擎ID范围,体现了跨语言参数传递的最佳实践。设计决策中选择了显式传递而非自动发现,简化了混合模式下的实例绑定。
原始 PR · 作者 taneem-ibrahim · 合并时间 2026-06-17 14:57
Cohere Embed 混合内容 payload 校验
值得精读,尤其是 pydantic model_validator 的使用方式。该 PR 体现了“fail fast”的设计原则,适合作为类似校验场景的参考。
原始 PR · 作者 hello-args · 合并时间 2026-06-17 14:45
无权重 RMSNorm kernel 跳过逐通道乘法
建议核心 kernel 和性能优化工程师精读,重点关注 C++ 模板分支设计如何兼顾运行效率与代码复用,以及 IR 调度器如何实现不同后端对 weight=None 的 fallback。该 PR 体现了 kernel 层与 Python 层正确解耦的最佳实践,值得借鉴。
参与讨论