vllm-project/vllm

默认禁用 Inductor 运行时断言，以降低大模型前向传播的2ms开销。

该 PR 值得精读，因为它展示了在性能和调试之间的设计权衡，以及如何通过配置和环境变量提供灵活性。建议关注 __post_init__ 中的版本检查和日志级别绑定逻辑，以及测试用例的设计。

抑制 nano_nemotron_vl 处理器中 PyTorch 只读 NumPy 数组警告，无功能影响。

该 PR 值得快速浏览，特别是 `_bicubic_from_ndarray` 函数的设计，展示了 PyTorch 警告抑制的最佳实践。但需注意 review 中的争议点，建议工程师验证 `video_to_pixel_values` 逻辑是否正确，以防潜在回归。

扩展微批次优化(DBO)至通用模型，去除对文本模型和内部model属性的依赖。

建议工程师精读此PR，特别是`vllm/v1/worker/gpu_ubatch_wrapper.py`的改动，以理解如何通用化微批次优化。关注`self.runnable`的设计决策，这反映了vLLM中模型封装的变化趋势。

将 flashinfer-cubin 设为默认 CUDA 依赖，以支持 Blackwell 部署。

建议负责 CUDA 部署或基础设施维护的工程师精读此 PR，重点关注版本管理策略。变更设计简单，但凸显了依赖分散管理的风险，值得作为案例讨论统一版本控制的最佳实践。

修复MRV2模型在DeepSpeed v3.2下KV缓存规格处理问题。

该PR是一个针对性bugfix，值得处理KV缓存和DeepSpeed集成的开发者关注，特别是了解如何支持灵活规格配置的设计决策。

简化 Model Runner V2 中的管道并行逻辑，优化代码结构并引入潜在 bug。

建议工程师精读此 PR，重点关注 kv_connector_output 丢失的问题，检查是否已在后续提交中修复。重构设计值得学习，尤其是如何统一 PP 逻辑以减少冗余，但需警惕潜在的正确性风险。

为 vLLM 的 Docker 构建添加 Ubuntu 24.04 支持，扩展 CI 管道兼容性。

建议工程师精读此 PR，特别是 `docker/Dockerfile` 中的兼容性修复和 CI 管道扩展，以理解构建系统的演进。关注参数化设计和跨版本测试覆盖。

为FlexAttention添加自定义mask mod支持，允许用户定义块稀疏提示。

建议技术管理者精读此PR，关注BlockSparsityHint的设计和mask构建逻辑的调整，这对于理解FlexAttention的扩展性和未来稀疏attention优化有参考价值。