Prhub
← 返回仓库详情

标签聚合

vllm-project/vllm · 标签视图

标签列表

聚合结果

mistral 相关 PR

2026-04-16

#39217 [Mistral Grammar] Fix tool and reasoning parsing

作者 juliendenize · 合并时间 2026-04-16 12:05

缺陷修复 重要性 9.00 洞察度 7.00

修复Mistral模型在语法约束下的工具和推理解析失败问题。

bugfix tool-calling mistral frontend

建议精读此PR以理解Mistral语法约束解析的设计权衡,特别是全局状态问题的临时解决方案和测试覆盖的全面性。关注`vllm/tool_parsers/mistral_tool_parser.py`中的整合逻辑和服务层路由条件,可作为工具解析集成的参考案例。

2026-04-14

#39293 [Bugfix][Model] Fix Devstral Small 2 HF format weight loading

作者 thomasmaindron · 合并时间 2026-04-14 18:11

缺陷修复 重要性 5.98 洞察度 4.00

修复Devstral Small 2等Mistral3模型以HF格式加载时的FP8量化权重映射和模型注册问题。

bugfix model multi-modality mistral v1

该PR值得快速浏览,重点关注权重映射器的后缀重映射机制和模型注册表的扩展方式。对于维护多模型支持的团队,可学习如何通过`hf_to_vllm_mapper`处理格式差异,以及利用全局配置解析器(如`with_hf_config`)简化特殊案例处理。