vllm-project/vllm

使 FlashInfer MoE 自动调优最大桶匹配实际 token 上限，吞吐提升约 2.6%

此 PR 值得精读，尤其对 MoE 推理性能优化或 FlashInfer 集成感兴趣的工程师。关键设计决策（将 FlashInfer 特定估算以自由函数形式隔离）展示了良好的接口分离实践。性能收益明确，且通过 review 讨论了 DP factor 的适用范围，增强了代码正确性信心。建议在后续 PR 中添加测试覆盖。

将 routed_scaling_factor 移入路由 kernel，消除额外乘法

建议阅读以了解如何将模型后处理逻辑下沉至 kernel 以减少 kernel 启动开销。设计模式值得借鉴：通过新增参数 apply_routed_scale_to_output 兼容不同后端（ROCm aiter vs 原生 CUDA）。值得关注后续 PR：finalize/add/ar/norm 融合。

调整非流式响应 null 序列化并解锁 Rust 前端 CI 测试

值得精读，因为它确立了 Rust 前端与 Python 后端在响应序列化上的一致性，并对 CLI 参数处理方式给出了范例。后续涉及响应结构体的 PR 应参考此变更。

修复 find_loaded_library 非确定性库劫持问题

建议精读此 PR 以理解 `/proc/self/maps` 解析的常见陷阱。该修复虽小，但诊断过程展现了良好的工程思维：跟踪非确定性 bug、理解 ASLR 的影响、以及精确匹配优于模糊子串的设计原则。

修复 new_block_ids 未清空导致的主机内存泄漏

值得精读，特别是对于理解 V1 调度器与缓存管理器的交互契约以及条件记录/清空的设计权衡。展示了如何通过最小化 flag 传递来避免回归且保持正确性。

更新 hf cache CLI 命令用法

该 PR 简单直接，无深入学习必要。但值得注意文档随外部库 API 变化及时更新的良好实践。

为 derender 端点添加资源边界验证，防止资源耗尽。

值得精读，展示了如何在端点添加安全校验的简洁模式。设计决策上，将验证前置到早期处理，复用现有配置项，是良好的实践。

KV卸载添加基础监控指标：延迟、分配失败、分配大小

建议精读该 PR，特别是 `scheduler.py` 中异步延迟的埋点模式和 `metrics.py` 中 bucket 的设计。设计模式可复用于 vllm 其他子系统的指标添加。测试代码也值得参考，尤其是使用 `request_runner` fixture 对 scheduler 行为进行集成验证的方式。