#52277 [Perf][Frontend] Vectorize Cohere binary embedding bit-packing
原始 PR · 作者 fangchenli · 合并时间 2026-08-14 17:15
向量化 Cohere 二进制 embedding 位打包,约 4.3x 提速
值得精读。这是一个小而美的向量化重构范例:用 `np.packbits` 替换嵌套循环并保证字节级等价,同时通过边界测试把负零、denormal、非 2D 输入等语义钉死。值得关注的设计决策包括 float64 符号判定、空输入早退和显式维数校验。