AscendIndexIVFastConfig
API定义 |
inline AscendIndexIVFastConfig(std::vector<int> devices, int64_t resourceSize = IVFAST_DEFAULT_TEMP_MEM) |
---|---|
功能描述 |
AscendIndexIVFastConfig的构造函数,生成AscendIndexIVFastConfig,此时根据“devices”中配置的值设置NPU侧芯片资源,配置资源池大小并执行默认的初始化。 |
输入 |
std::vector<int> devices:NPU侧芯片资源。 int64_t resourceSize:设备侧预置的内存池大小,单位为Byte,计算过程中存储中间结果的内存空间,用于避免过程中动态申请内存造成性能波动。默认参数为头文件中的“IVFAST_DEFAULT_TEMP_MEM”。该参数通过底库大小和search的batch数共同确定,在底库大于或等于1000万且batch数大于或等于16时建议设置1024MB。 |
输出 |
无 |
返回值 |
无 |
约束说明 |
|