检索目前只包含标准态(即在Host侧运行检索业务),但有的应用场景需要在Device侧运行检索业务,属于一种特定场景。下面介绍在Device侧进行检索的方法。
操作步骤
- 生成要运行的算法所需要的算子。算法介绍请参考算法介绍。
- 将以下依赖的库传输到Device侧上。
- openblas:/opt/OpenBLAS/lib
- faiss:/usr/local/faiss/faiss1.7.1/lib
- 运行态toolkit so:/usr/local/AscendMiniOSRun/acllib/lib64和/usr/local/AscendMiniOSRun/aarch64-linux/data
- 检索so:$MX_INDEX_HOME/mxIndex/host/lib
- 算子文件:$MX_INDEX_HOME/modelpath/
- Host侧编译器中的libgfortran.so:/usr/lib/aarch64-linux-gnu/libgfortran.so*
- Demo编译出来的二进制
- toolkit目录下的latest/opp/version.info文件
- 登录到Device侧,配置以下环境变量。
# 配置环境变量
export LD_LIBRARY_PATH=./lib:./lib64:./
# 配置version.info文件所在的目录
export ASCEND_OPP_PATH=./
- 登录到Device侧,运行用例。