vllm-project/vllm

优化LMCache多进程适配器，在MLA启用时仅由TP组首rank执行存储请求，减少冗余通信。

建议工程师精读此PR，关注`ParallelStrategy`的设计如何封装并行参数，以及使用`getattr`处理向后兼容性的模式。对于涉及分布式缓存和MLA优化的开发，有参考价值。

为Eagle推测解码预填充阶段添加完整CUDA图支持以提升性能。

建议精读此PR，特别关注speculator.py中的prefill方法和cudagraph管理器的设计，学习如何扩展CUDA图支持到可变长度输入场景，以及性能权衡的决策。

移除 librosa 依赖并集成 CUDA 特征提取器，提升 Parakeet 音频模型性能。

该 PR 值得精读，特别是 `ParakeetExtractor` 类的重构和 CUDA 代码集成，展示了如何优化音频处理流水线并移除不必要依赖。建议关注 `@cache` 和 `torch.compile` 的使用以提升性能，以及配置迁移策略确保向后兼容性。

重构 DelegatingParser.parse_delta 方法，提取辅助函数提升代码可维护性。

该 PR 值得精读，特别是对于关注代码可维护性设计和流式解析状态管理的工程师。重构展示了如何将复杂条件逻辑分解为辅助方法，并清晰分离不同阶段处理。建议关注 _in_reasoning_phase 和 _in_tool_call_phase 的设计，以及状态转换（reasoning_ended, tool_call_text_started）的处理方式，这些是流式解析的核心模式。

修复EAGLE DP推测解码测试的flaky问题，通过补全batch invariance检查和适配SM<90设备限制。

推荐精读此PR，特别是batch invariance在embedding层的实现细节，以及设备能力检测与优化禁用模式的设计决策。对于涉及推测解码、分布式测试或性能优化的开发者，此PR提供了处理类似flaky问题和权衡性能与确定性的参考案例。

修复 pooling 模型权重加载中因迭代器缓冲区重用导致的静默数据损坏。

推荐所有涉及模型加载或 pooling 功能的工程师精读此 PR，理解迭代器急切求值 vs 惰性求值的陷阱，以及如何安全处理缓冲区重用场景。关注适配器模式中的权重加载逻辑。

新增标签化指标以细分等待请求队列，提升调度瓶颈诊断能力。

建议精读此 PR，关注标签化指标的设计决策，它展示了如何在保持向后兼容性的同时遵循 Prometheus 最佳实践进行指标扩展，对类似监控功能开发有借鉴价值。

修复flashinfer_nvlink_one_sided后端因工作空间大小硬编码导致的非nvfp4数据类型静默数据损坏问题。

该PR值得快速浏览以了解数据类型与后端兼容性的重要约束。虽然实现简单，但揭示了分布式计算中工作空间硬编码可能导致的静默错误模式，对于处理量化或自定义后端的工程师有警示价值。关注点：错误信息的设计是否足够清晰可操作。