在Device侧运行检索业务

检索目前只包含标准态(即在Host侧运行检索业务),但有的应用场景需要在Device侧运行检索业务,属于一种特定场景。下面介绍在Device侧进行检索的方法。

前提条件

操作步骤

  1. 生成要运行的算法所需要的算子。算法介绍请参考算法介绍
  2. 将以下依赖的库传输到Device侧上。
    • openblas:/opt/OpenBLAS/lib
    • faiss:/usr/local/faiss/faiss1.7.1/lib
    • 运行态toolkit so:/usr/local/AscendMiniOSRun/acllib/lib64和/usr/local/AscendMiniOSRun/aarch64-linux/data
    • 检索so:$MX_INDEX_HOME/mxIndex/host/lib
    • 算子文件:$MX_INDEX_HOME/modelpath/
    • Host侧编译器中的libgfortran.so:/usr/lib/aarch64-linux-gnu/libgfortran.so*
    • Demo编译出来的二进制
    • toolkit目录下的latest/opp/version.info文件
  3. 登录到Device侧,配置以下环境变量。
    # 配置环境变量
    export LD_LIBRARY_PATH=./lib:./lib64:./
    # 配置version.info文件所在的目录
    export ASCEND_OPP_PATH=./
  4. 登录到Device侧,运行用例。