#39710 [Metrics] Add request_id to FinishedRequestStats to enable correlation between metrics and requests
作者 Csrayz · 合并时间 2026-04-15 19:24
功能
重要性 5.31
洞察度 6.00
为FinishedRequestStats添加request_id字段，支持指标与请求关联。
v1
metrics
feature
observability
该PR值得精读，因为它展示了如何在vLLM中扩展指标系统以支持可观测性需求。关注点包括： 1. 设计决策：选择`external_req_id`而非内部ID，体现了与现有架构一致性的考量。 2. 接口演化：讨论中关于`StatLoggerBase`稳定性的担忧，是评估类似变更长期维护成本的好案例。 3. 实现简洁性：变更集中在三个文件，逻辑清晰，适合学习如何最小化地添加功能字段。