缺陷修复
重要性 4.17
洞察度 2.00
更新 long_prefill_token_threshold 文档说明 0 禁用
这是一个小型文档改进 PR,适合快速回顾了解配置验证模式和文档最佳实践。建议阅读关联 issue #43985 和类似 PR #43794 以了解 vLLM 配置验证的整体模式。
标签列表
聚合结果
更新 long_prefill_token_threshold 文档说明 0 禁用
这是一个小型文档改进 PR,适合快速回顾了解配置验证模式和文档最佳实践。建议阅读关联 issue #43985 和类似 PR #43794 以了解 vLLM 配置验证的整体模式。
重新启用 FlashInfer 自动调优并广播策略至所有 rank
若关注 FlashInfer kernel 性能优化或 vLLM 配置系统,建议仔细阅读该 PR。其广播策略设计值得参考,临时文件处理方面也有改进空间。
原始 PR · 作者 NickLucche · 合并时间 2026-05-18 20:34
KV Connector 存在时默认回退 MRv1
建议精读此 PR 的处理思路:临时降级而非禁用 MRv2,体现了兼容性折中。同时建议关注后续对 `is_kv_transfer_instance` 属性的接入,以精细化降级条件。