功能介绍
AscendIndexBinaryFlat需要使用对应的AscendIndexBinaryFlatConfig执行对应资源的初始化,配置执行检索过程中的硬件资源“devices”和预置的内存池大小“resources”。
- AscendIndexBinaryFlat仅支持单个昇腾AI处理器的Atlas 推理系列产品,依赖AICPU算子和BinaryFlat算子,请参考自定义算子介绍生成对应算子。
- AscendIndexBinaryFlat仅支持标准态部署方式。
成员介绍
| 成员 | 类型 | 说明 | 
|---|---|---|
| deviceList | std::vector<int> | Device侧设备ID。 AscendIndexBinaryFlat类仅支持单个Atlas 推理系列产品的加速卡。 | 
| resourceSize | int64_t | Device侧内存池大小,单位为字节,默认参数值为1024MB,合法范围为[1024*1024*1024, 32*1024*1024*1024],1000W底库推荐申请5GB。 |