#32031 [NPU]Fix run_lora_a_embedding out-of-vocab token produces wrong embedding.
原始 PR · 作者 qinsir5522 · 合并时间 2026-08-25 14:09
修复 NPU 上 LoRA 嵌入越界 token 崩溃
值得阅读,尤其是对 LoRA 后端实现和 NPU 算子适配感兴趣的工程师;全向量化 3D 高级索引替代逐段循环的思路可复用到其它后端。建议补充单元测试(包含越界 token、空权重、rank 掩码边界),并清理未使用的 num_loras 变量。
参与讨论