aclopSetModelDir
产品支持情况
产品 |
是否支持 |
|---|---|
Atlas 350 加速卡 |
√ |
√ |
|
√ |
|
√ |
|
√ |
|
√ |
功能说明
设置加载模型文件的目录,该模型文件是由单算子编译成的*.om文件。
函数原型
1 | aclError aclopSetModelDir(const char *modelDir) |
参数说明
参数名 |
输入/输出 |
说明 |
|---|---|---|
modelDir |
输入 |
模型文件路径的指针。 此处可设置多级目录,但系统最多从多级目录的最后一级开始,读取三级目录下的模型文件。 例如,将modelDir设置为"dir0/dir1",dir1下的目录层级为“dir2/dir3/dir4”,这时系统只支持读取“dir1”、“dir1/dir2”、“dir1/dir2/dir3”目录下的模型文件。 |
返回值说明
返回0表示成功,返回其他值表示失败,请参见aclError。
约束说明
模型加载环境中的算子库版本需与模型编译环境的算子库版本一致,否则在加载算子时会报错。可通过${INSTALL_DIR}/opp/version.info文件中的version字段查看算子库版本。${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。
在加载前,请先根据单算子om文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。针对不同产品型号,对于Atlas 推理系列产品 ,Ascend EP 形态下,上限是40000000;Control CPU开放形态下,上限是2000000。一个进程内正在执行的算子的最大个数上限不同:
- 对于Atlas 350 加速卡、
Atlas A3 训练系列产品 /Atlas A3 推理系列产品 、Atlas A2 训练系列产品 /Atlas A2 推理系列产品 ,最大个数为2000000。 - 对于
Atlas 200I/500 A2 推理产品 、Atlas 训练系列产品 ,最大个数为40000000。 - 对于
Atlas 推理系列产品 ,Ascend EP 形态下,上限是40000000;Control CPU开放形态下,上限是2000000。
父主题: 单算子模型执行