vllm-project/vllm

通过 pin 定 colmodernvbert 模型 revision 修复 CI 失败，确保多模态测试稳定。

该 PR 是标准 CI 修复，变更简单直接，适合快速浏览以了解如何处理外部依赖版本控制。无需深入精读，但可关注其代码风格改进（常量命名大写）和注释实践（FIXME 注释）。

修复torchrun_example.py文档中进程数匹配并行维度的说明。

对于大多数工程师，该PR不值得精读，除非您直接使用或维护torchrun_example.py相关代码。关注点在于文档更新的正确性和review中讨论的潜在不完整性问题，可作为文档维护的参考案例。

修复Eagle DP测试不稳定性，通过在批量不变性启用时禁用AOT调度。

建议快速浏览此PR，关注AOT调度与批次不变性的设计权衡，以及测试调整如何缓解flaky问题；但可跳过详细代码分析，因变更较小。

修复vllm/config/parallel.py中TPU支持的文档描述，更新链接以提升准确性。

此PR不值得精读代码逻辑，但review讨论中关于文档准确性和TPU支持的设计决策值得关注，尤其是gemini-code-assist[bot]提出的不准确性，可作为文档维护的参考。

将--grpc CLI参数从serve.py移至cli_args.py以统一前端参数定义。

建议快速浏览此PR以了解参数管理的调整，但特别关注gemini-code-assist[bot]的设计争议。对于技术管理者，此PR展示了代码重构中模块边界的重要性，值得考虑未来是否进一步重构参数定义到更通用的模块。

为Responses API添加presence_penalty和frequency_penalty字段，增强OpenAI兼容性。

此PR值得精读，特别是学习如何将外部API规范集成到现有系统，并处理验证约束以提供更好的错误反馈。关注Pydantic模型验证和参数默认值处理的设计决策。

重构评分API为IOProcessor模式，统一跨编码器、双编码器和延迟交互架构的在线和离线处理逻辑。

该PR是理解vLLM池化任务架构演进（特别是向统一IOProcessor模式迁移）的绝佳案例，值得核心开发者精读。重点关注`ScoringIOProcessor`的设计如何封装不同评分算法的差异，以及`OfflineInputsContext`/`OfflineOutputsContext`如何统一在线和离线处理的接口。同时，应留意review中提到的关于异常处理策略和抽象层次选择的讨论，这对设计类似的模块有借鉴意义。

在CPU后端为AWQ量化模型引入int8计算模式，性能提升显著。

该PR值得精读，特别是内核实现部分和设计权衡。关注点包括：如何适配SGLang内核以实现融合反量化、环境变量控制策略的性能影响、以及AMX硬件依赖的兼容性处理。