#45777 [Cleanup] Remove dead env
原始 PR · 作者 DarkLight1337 · 合并时间 2026-06-16 13:56
移除已废弃的 VLLM_RPC_TIMEOUT 环境变量
建议合入。这是一次典型的死代码清理,虽然改动微小,但能减少维护负担和认知负荷。对于新贡献者而言,可以学习如何识别并清理合并后残留的配置项。
A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 DarkLight1337 · 合并时间 2026-06-16 13:56
移除已废弃的 VLLM_RPC_TIMEOUT 环境变量
建议合入。这是一次典型的死代码清理,虽然改动微小,但能减少维护负担和认知负荷。对于新贡献者而言,可以学习如何识别并清理合并后残留的配置项。
原始 PR · 作者 taneem-ibrahim · 合并时间 2026-06-16 13:42
Cohere /v2/embed 互斥输入字段校验
值得合入,设计简洁,测试覆盖全面。推荐作为防御性编程的示例参考。
原始 PR · 作者 Bortlesboat · 合并时间 2026-06-16 13:33
在 tokenizer 初始化前注册 HF 配置类,修复 Qwen3.5 MoE 间歇性 KeyError
值得精读,展示了如何修复多进程初始化中的全局注册时序问题。设计上提取注册函数可供后续重用,是良好的重构实践。对于需要自定义配置类的模型开发者,此思想可直接采用。
原始 PR · 作者 gitbisector · 合并时间 2026-06-16 13:32
用 ParallelLoader 替换手动分片加载,提升速度并支持流水线
此 PR 设计精巧,通过外部库新特性实现性能提升,同时保持向后兼容。值得精读其回退机制和环境变量设计。对于关注模型加载性能的工程师是重要参考。
Nemotron V3 解析器迁移至流式解析引擎框架
该 PR 值得精读,尤其关注 `_discover_parsers()` 的自动发现设计模式和新旧解析器方法签名的一致性。这是 vLLM 解析器基础设施演进的重要一步,为未来统一所有模型的流式推理解析奠定基础。
使 Rust 前端强制要求 vocab_size 存在,移除冗余字段
建议审阅者重点关注复合模型的递归解析是否完善,以及移除 `num_attention_heads` 验证是否影响特殊模型。整体设计方向正确,通过使模型配置契约更严格提高了可靠性和可维护性,值得合并。
原始 PR · 作者 lucianommartins · 合并时间 2026-06-16 12:31
修复 Gemma4 离线解析截断和 thinking 禁用时的 token 泄漏
建议阅读此 PR 了解 Gemma4 工具调用问题的修复模式,特别是 `adjust_request` 和 `is_reasoning_end` 的逻辑。强烈关注后续 PR #45832 以解决 `adjust_request` 回归。对于 Gemma4 用户,建议升级并监控工具调用行为。
原始 PR · 作者 zhenwei-intel · 合并时间 2026-06-16 12:31
修复 XPU 上 Triton attn 的 fp8/bf16 检查失败
该 PR 是典型的平台兼容性修复,值得相关平台维护者精读。设计上采用`current_platform`抽象来区分平台,做法规范。对于涉及平台特性检查的代码,推荐参考此模式。
参与讨论