vllm-project/vllm

将 pyav 和 soundfile 从可选音频依赖移至基础依赖，简化音频模型安装。

该 PR 值得基础设施维护者精读，因为它展示了依赖管理的设计权衡：在简化用户体验和引入许可/系统风险之间的决策。关注点包括： - 为何在 review 反对后仍决定合并？可能音频功能已成为核心用例。 - 未来如何处理 LGPL 依赖的合规性？可能需要文档说明或运行时检测。 - 对于纯文本用户，是否有机制可选排除音频依赖？目前看没有。

修复Ray compiled DAG在logprobs请求下SHM通道阻塞，通过复制只读numpy数组脱离零拷贝缓冲区。

该PR值得精读，特别是`detach_zero_copy_from_model_runner_output`函数的实现，展示了如何安全地处理Ray SHM中的零拷贝对象。关注注释中关于`prompt_logprobs_dict`和`cu_num_generated_tokens`的设计决策，以及如何平衡性能与稳定性。对于涉及Ray或分布式执行的开发者，此修复提供了重要的技术洞察。

移除 resampy 音频重采样依赖，默认改用 pyav 方法以提升性能。

该 PR 值得精读，以了解依赖清理和性能优化的实践。重点关注 `AudioResampler` 类的设计决策，以及如何处理可选依赖的运行时错误和兼容性权衡。

修复 toy_proxy_server 处理 min_tokens 参数时因 P 服务不支持而导致的验证崩溃。

该 PR 变更简单直接，适合快速了解测试工具中参数传递的兼容性处理。值得关注的设计决策是选择显式保存和重新添加参数值，而非直接 `pop` 丢弃，这可能反映了对 D 服务参数需求的明确假设。

修复单字符串提示词场景下LLM优先级归一化错误，避免有效优先级列表被误拒。

该PR值得快速浏览，以了解前端API中一个常见的边界条件bug及其修复模式。关注点在于`prompt_to_seq`归一化函数的使用场景，以及如何确保后续逻辑（如优先级、LoRA请求）都基于归一化后的序列长度进行计算，避免类似错误。

重构 pooling 入口点，集中工厂函数并清理导入，提升内聚性。

该 PR 值得精读，尤其是关注工厂模式在入口点模块中的应用，以及如何通过集中逻辑实现解耦。设计决策包括：将 pooling 和 generate 任务的调用类型分离到独立工厂，使用相对导入提升内聚性。建议工程师学习这种重构方法，以优化大型代码库的组织。

新增在线量化功能文档，说明FP8量化方案及高级配置。

该PR是纯文档更新，对于想了解或使用vLLM在线量化功能的用户和开发者值得一读。重点关注文档中关于 `quantization` 和 `quantization_config` 参数的正确用法，以及高级配置如 `linear_scheme_override`、`moe_scheme_override` 和 `ignore` 列表的示例。这些设计决策反映了在线量化前端的灵活性和可配置性。

优化CPU测试稳定性，调整测试标记、编译配置和CI并行度。

该PR主要涉及测试和CI配置调整，对于关注CPU平台测试稳定性和CI流水线优化的工程师值得快速浏览。重点关注 `vllm/platforms/cpu.py` 中编译配置的变更，理解 `ir_enable_torch_wrap` 设置对CPU推理性能的潜在影响。