#52329 [Performance][MRV2] Cache logits-processing request state
原始 PR · 作者 positive666 · 合并时间 2026-08-17 10:36
缓存 logits 处理判定,MRV2 采样门控提速约 70%
值得精读。这是一次典型的“热路径判定预计算”优化:把每步重复扫描 7 个数组的工作折叠为 `add_request()` 一次的 O(1) 写入,且测试通过参数化把组合谓词的每个分支都钉死,并专门覆盖槽位复用与活跃子集过滤两个最容易踩坑的点。关注点:未来扩展采样状态时如何保证缓存同步,可考虑把谓词收敛到单一派生结构或在测试中增加“缓存与实际状态一致性”的断言。