#41649 Limit gpu utils and lower max BS on test_transcription_api_correctness.py
原始 PR · 作者 ekagra-ranjan · 合并时间 2026-05-05 01:30
降低转录测试内存占用防OOM
值得快速合并,以稳定 CI 流水线。显存限制策略可复用为其他类似测试的参考模式。
A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 ekagra-ranjan · 合并时间 2026-05-05 01:30
降低转录测试内存占用防OOM
值得快速合并,以稳定 CI 流水线。显存限制策略可复用为其他类似测试的参考模式。
原始 PR · 作者 yewentao256 · 合并时间 2026-05-05 00:22
修复 VllmConfig model_config 为 None 时 AttributeError
建议合并。这是一次简洁且安全的防御性编程,修复了测试环境下的真实崩溃,且不引入副作用。
原始 PR · 作者 netanel-haber · 合并时间 2026-05-04 21:31
分离 Nemotron nano-v2/v3 测试,禁用冗余测试
该 PR 虽然只修改了测试配置,但体现了测试策略的微调:将不同变体映射到各自模型以触发差异特性。值得关注的决策点是移除 V2 的 `vision_config` override,未来若出现 OOM 问题可快速恢复。建议 CI 运行后观察 V2 测试是否稳定。
回退 PyTorch docs 链接临时 fix
可快速合入,无需精读。
修复 hyperclovax.py 格式以通过 ruff-format 检查
作为一次纯粹的格式化修复,此 PR 无需精读。但建议开发者注意:在引入第三方配置(如嵌入 Hugging Face 的配置类)后,应确保代码风格符合项目的格式化标准。
原始 PR · 作者 AndreasKaratzas · 合并时间 2026-05-04 13:22
修复CPU offload压缩张量测试的不稳定性
该 PR 属于小型测试稳定性修复,适合快速合并。可关注后续是否需要对其他测试也应用类似模式。
原始 PR · 作者 AndreasKaratzas · 合并时间 2026-05-04 12:33
对齐 ROCm 投机解码测试预填设置
建议合并。这是一个低风险、高收益的测试稳定性修复,解决了 ROCm CI 中的间歇性失败。值得关注的是其设计模式——使用共享配置字典确保两个实验组配置一致,可用于其他比较性测试。
自带HCXVisionConfig修复Transformers v5兼容性
推荐阅读。该PR展示了如何通过自带(vendor)上游配置类来修复Transformers v5兼容性问题,并涉及`AutoConfig`注册优先级的协作(关联Transformers PR #45093),对理解vLLM的配置加载机制以及跨仓库兼容性修复有参考价值。
参与讨论