修复 CuPy 14.1.0 的 pytest 冲突并恢复 humming 支持
建议在 humming.py 中保留适当的安装提示(例如在类 __init__ 中重新添加检查),或迁移至更优雅的延迟错误报告。同时跟踪 cupy 14.1.1 或更高版本,尽快将版本限制从 `<14.1.0` 放宽为 `!=14.1.0`。
A high-throughput and memory-efficient inference and serving engine for LLMs
修复 CuPy 14.1.0 的 pytest 冲突并恢复 humming 支持
建议在 humming.py 中保留适当的安装提示(例如在类 __init__ 中重新添加检查),或迁移至更优雅的延迟错误报告。同时跟踪 cupy 14.1.1 或更高版本,尽快将版本限制从 `<14.1.0` 放宽为 `!=14.1.0`。
原始 PR · 作者 chaojun-zhang · 合并时间 2026-05-26 18:40
修复XPU上fused MoE LoRA kernel崩溃
值得合并,修复清晰且无副作用。建议精读以确保后续平台无关化改造遵循相同模式。
原始 PR · 作者 javierdejesusda · 合并时间 2026-05-26 18:39
InternLM2 迁移至 AutoWeightsLoader
该 PR 设计清晰,遵循已有模式,适合作为参考样本帮助其他模型的迁移工作。建议阅读 InternLM2Model.load_weights 和 InternLM2ForCausalLM.load_weights 的变更以理解 AutoWeightsLoader 的使用方式。
拒绝无效 thinking_token_budget 并标准化 -1
值得精读,尤其是 `BeforeValidator` 的 Pydantic 验证模式,适合作为 vLLM 中其他参数输入验证的参考。
原始 PR · 作者 ThibaultCastells · 合并时间 2026-05-26 18:37
自定义图像基准数据集支持多图像与交错内容
建议阅读该 PR,特别是 `CustomImageDataset` 的 `load_data` 和 `sample` 方法的设计,以及请求构建的适配模式。对于需要定制 benchmark 数据集的团队具有参考价值。整体清理且安全,可正常合入。
原始 PR · 作者 simondanielsson · 合并时间 2026-05-26 18:33
MoRI 环境变量迁移至 kv_connector_extra_config
值得深入阅读,尤其是配置迁移模式、废弃警告机制和布尔转换处理。可学习如何将松散环境变量集中到配置对象中,并最小化对用户的影响。
HMA 默认启用,仅连接器不支持时自动禁用
该 PR 值得精读。核心设计决策是将默认值反转,同时通过递归检测 MultiConnector 来保持兼容性。`supports_hma_config` 方法的设计清晰,可作为判断功能的单一入口。警告信息的改进也值得参考。
原始 PR · 作者 yubofredwang · 合并时间 2026-05-26 15:46
修复深求Eagle3推断缺失fc_norm归一化
推荐合并。修复明确、无风险,且与已有模式一致。值得关注的是此类跨模型实现对齐的遗漏,后续应加强类似模式的代码审查。
参与讨论