Prhub

vllm-project/vllm · 标签视图

标签列表

bugfix · 911
performance · 486
refactor · 476
test · 423
feature · 397
cleanup · 359
model · 305
v1 · 299
rocm · 271
quantization · 264
kernel · 212
ci/build · 208
frontend · 204
documentation · 187
kv-connector · 187
nvidia · 186
multi-modality · 162
moe · 145
deepseek · 134
ci · 132
attention · 129
speculative-decoding · 115
infra · 103
tool-calling · 101
qwen · 96
cpu · 86
compilation · 74
intel-gpu · 57
cudagraph · 56
xpu · 53
fp8 · 33
scheduler · 32
torch.compile · 26
lora · 25
parser · 25
responses-api · 25
gpt-oss · 18
pooling · 17
structured-output · 13
mistral · 11
security · 7
mamba · 6
llama · 5
metrics · 4
dflash · 3
gemma · 3
gemma4 · 3
reasoning · 3
rust · 3
tpu · 3
v2 · 3
bug · 2
configuration · 2
distributed · 2
jais · 2
ray · 2
benchmark · 1
config · 1
dependencies · 1
dependency-wiring · 1
docker · 1
eplb · 1
fips · 1
gdn · 1
hy_v3 · 1
hybrid · 1
mla · 1
mtp · 1
nccl · 1
nixl · 1
numa · 1
observability · 1
pipeline-parallelism · 1
platform · 1
pluggablelayer · 1
prefix-caching · 1
riscv · 1
sampling · 1
setup · 1
vllm · 1

聚合结果

mistral 相关 PR

2026-06-03
功能 重要性 6.71 洞察度 5.00

MRV2 支持 Llama 与 Mistral 密集模型

建议在合并后密切监控 Llama/Mistral 相关测试的稳定性，并优先处理 force_v1_runner 的环境变量覆盖问题。该 PR 值得精读，展示了 MRV2 激活的标准流程测试适配模式。

featurellamamistral
2026-06-02
2026-05-28
缺陷修复 重要性 5.96 洞察度 4.00

修复 MistralTokenizer 多模态基准测试崩溃

值得合入，修复明确且风险低。建议在合入前确认 `is_mistral_tokenizer` 函数已正确导入并覆盖所有 Mistral 分词器变种。该 PR 的设计决策——在调用侧做 fallback 而非修改 MistralTokenizer 本身——值得肯定，它保持了 MistralTokenizer 的接口纯净。

bugfixperformancemistral
2026-05-06
重构 重要性 8.08 洞察度 5.00

升级 mistral_common 至 1.11.2，将工具适配逻辑移至库内并支持 reasoning 字段

值得精读。该 PR 展示了如何通过升级依赖库将自定义逻辑上移，从而简化 vLLM 代码并获取新功能。关注点包括：`add_generation_prompt` 传递问题的后续处理、`from_openai` 方法的接口稳定性、以及测试覆盖是否足够全面。设计决策上，选择信任库原生实现而非手动适配是合理方向。

tool-callingmistralrefactor
2026-04-29

#41024 [FEATURE] Add EagleMistralForCausalLM

原始 PR · 作者 juliendenize · 合并时间 2026-04-29 03:22

功能 重要性 8.02 洞察度 6.00

新增Mistral Eagle推测解码模型支持

值得精读：展示了如何在 vLLM 中为推测解码框架添加新 draft 模型的标准流程，包括绕过基类 __init__ 的注意事项、weight mapping 调整、量化配置隔离等。对于需要添加自定义 Eagle 模型的开发者是很好的参考。

featurespeculative-decodingmodel
2026-04-24
缺陷修复 重要性 6.09 洞察度 5.00

修复 Mistral 工具解析器在 HF tokenizer 下的 JSON 解析错误

建议仔细阅读 `_is_pre_v11_tokeniser` 函数的修改和缓存策略的设计。由于缺少自动化测试，可以考虑后续补充针对 HF tokenizer 场景的测试用例，以巩固修复效果。

bugfixtool-callingmistral
功能 重要性 6.69 洞察度 6.00

懒加载 mistral_common 包，避免非 Mistral 场景下的过早导入

值得精读，展示了如何通过 `LazyLoader` + 类属性标记实现条件懒加载，避免大型依赖包过早导入。设计模式清晰，可作团队内部最佳实践参考。

frontendtool-callingmistral