#31575 Fix rope config compatibility and VL/transformers-fallback weight loading
原始 PR · 作者 vshekhawat-hlab · 合并时间 2026-08-17 14:53
修复 RoPE 配置与 VL/transformers 权重加载兼容性
值得精读。重点看三处设计:一是 get_rope_config() 对 v4/v5 配置的统一读取与 None 语义处理;二是 qwen.py 中“跳过逻辑必须覆盖所有索引路径”的 review 驱动加固;三是 transformers.py 中 5D 特征“延迟收集 + 批量最大零填充”的方案,它解释了为什么不能简单 flatten。若后续要扩展 transformers 回退路径或补齐 XPU 多模态支持,本 PR 是很好的参考模板。
参与讨论