功能
重要性 5.51
洞察度 6.00
在 TokenOutput 中暴露 vLLM prefix-cache 命中统计
该 PR 值得关注，尤其对于使用 vLLM prefix-cache 或需要缓存命中统计的团队。它展示了如何在框架中暴露底层引擎的统计信息，并处理了异步恢复场景的数据一致性。建议结合实际场景评估是否需要在默认 agent loop 中透出该指标。
verl-project/verl · 标签视图
标签列表
聚合结果
feature 相关 PR
2026-08-28