vllm-project/vllm

修复 Mooncake 连接器未卸载生产者最终部分尾部状态的问题。

该 PR 是一个有意义的 bugfix，修复了 Mooncake 连接器在特定边界条件下的数据丢失问题。实现方案设计周密，通过新增清晰的 finish-time handoff 路径而非修补现有逻辑，并配有全面的单元测试。建议关注：1) 新接口 `register_finished_partial_tail` 的返回值（是否延迟释放）的语义是否清晰；2) 与之前 CoW 路径中 `register_boundary_state` 的协调，避免重复处理。适合相关模块维护者精读，特别是 `scheduler.py`、`single_type_kv_cache_manager.py` 和 `store/scheduler.py` 的变更。

修复 AsyncLLM 双重 /stop_profile 导致的崩溃和段错误。

此 PR 是一个针对明确 bug 的重要修复，值得精读。核心设计决策——用已有的、具备幂等保护的 `TorchProfilerWrapper` 替换原始的 `torch.profiler.profile`——是合理且简洁的。然而，它引入的新的兼容性问题（导致 nsys profiler 失效）是一个显著缺陷，提醒我们在修改初始化逻辑时需要更全面地考虑所有可能的路径和配置组合。建议在合并前确保有覆盖不同 profiler 类型的测试。

修复 gfx950 上 AITER Triton MXFP4 W4A16 的 block scale swizzle 问题。

该 PR 值得精读，特别是对于维护 ROCm 后端和 MoE 内核的工程师。它展示了如何通过共享标志确保设备特定行为的一致性，设计决策清晰且向后兼容。

为 Rust 解析器中的递归参数解析添加深度限制，防止栈溢出。

值得精读，展示了在 Rust 解析器中应用 RAII 守卫防止栈溢出的简洁设计。关键决策包括线程本地存储和 128 深度限制的选择，适用于类似递归场景。

移除冗余的 `_pack_topk_ids_weights_kernel` 内核，适配 FlashInfer 新 API 直接传递元组。

这是一个高质量的清理型 PR，值得精读。其价值不仅在于代码行数的减少，更在于：1) 展示了如何利用上游库的 API 进步来简化下游实现。2) 通过一次彻底的清理，统一了多个 MoE 量化实现的代码路径。3) 审阅过程促使了更完整的重构（扩展到所有调用者）。对于 MoE 模块的维护者，理解此次变更的数据契约变化（从打包张量到元组）非常重要。

记录平台插件探测失败的异常日志，修复 zentorch 加载失败导致平台检测信息丢失的问题。

这个 PR 值得精读，特别是其异常处理策略的演进。它展示了一个从“静默吞没异常”到“有选择地记录诊断信息”的良好实践。代码改动小而精，测试设计巧妙（模拟特定导入失败），且解决了实际的可维护性问题（#52238）。关注点在于其 `DEBUG` 级别日志的可发现性，以及它如何为未来平台插件的错误处理定下基调。

为 ROCm 平台特定功能添加冒烟测试，增强 CI 回归检测。

该 PR 值得 **快速浏览**，其价值在于补充了 ROCm 平台基础功能的 CI 保障。 1. **推荐关注点**：a) **测试设计**：其分组清晰（导入、架构解析、可用性、环境变量），使用参数化覆盖多种 GPU 型号和环境变量状态，是编写平台特定冒烟测试的良好范例。b) **架构解析边界**：`_capability_from_gcn_arch` 函数的测试用例详细覆盖了正常、无效、畸形输入，对于理解该关键函数的行为很有帮助。 2. **无需深究**：由于是纯测试补充且逻辑简单，无需花费大量时间审查。若关注 ROCm 平台支持，可快速浏览测试文件 `tests/kernels/core/test_rocm_misc_ops.py`，了解其测试了哪些关键点。

优化 FlashInfer autotune 缓存键生成，避免因 vLLM 源码更新而重复执行耗时调优。

**推荐精读**。该 PR 提供了一个解决实际性能痛点的优雅方案，体现了对 vLLM 构建/部署流程的深入理解。其设计思路——通过控制哈希计算的粒度来平衡缓存的精确性与重用率——对于其他涉及版本依赖缓存的设计具有借鉴意义。虽然代码改动不大，但核心决策（排除版本号）及其潜在风险值得技术管理者和相关模块（如编译、内核缓存）的负责人关注。