功能介绍
AscendIndexInt8作为特征检索组件中的采用INT8特征向量的Index的基类,为特征检索中的其他INT8的Index定义接口。
不支持多线程并发调用,因此在多线程的场景中需要用户在使用前加锁,否则检索接口可能导致异常。并且不支持不同线程间共享一个device。当前的特征检索内部会使用OMP做性能加速,OMP不支持与其他多线程机制混用。反复创建新线程使用OMP会导致内存持续累加,因此建议使用固定的线程来运行检索任务。
父主题: AscendIndexInt8
AscendIndexInt8作为特征检索组件中的采用INT8特征向量的Index的基类,为特征检索中的其他INT8的Index定义接口。
不支持多线程并发调用,因此在多线程的场景中需要用户在使用前加锁,否则检索接口可能导致异常。并且不支持不同线程间共享一个device。当前的特征检索内部会使用OMP做性能加速,OMP不支持与其他多线程机制混用。反复创建新线程使用OMP会导致内存持续累加,因此建议使用固定的线程来运行检索任务。