#5939 [rollout] fix: prevent engine_kwargs from overwriting KvCacheConfig in trtllm rollout
作者 Superjomn · 合并时间 2026-04-13 13:36
缺陷修复
重要性 4.00
洞察度 4.00
修复TRT-LLM rollout中engine_kwargs覆盖KvCacheConfig导致配置丢失的问题。
rollout
trtllm
misc
该PR值得精读，特别是关注配置合并的设计决策。虽然变更简单，但展示了在多层配置传递中避免覆盖的关键技巧。建议关注gemini-code-assist[bot]提出的重复键和null值处理问题，这可能在类似场景中普遍存在。