昇腾社区首页
中文
注册

功能介绍

AscendIndexIVF作为特征检索组件中的采用IVF的Index的基类,为特征检索中的其他的IVF的Index定义接口。

对于IVF系列算法,在Atlas 300I Duo 推理卡上的线性增长取决于距离计算的运算量在整个search过程的占比。相较于其他计算类型,只有距离计算的运算量可以均分到多个运算单元,所以在大batch和nprobe较大的场景下,线性增长度更好,而小batch和nprobe较小的场景下线性增长度则较差。