昇腾社区首页
中文
注册

完整样例参考

样例获取和使用

特性

获取链接

支持芯片型号

如何构建Graph并编译成离线模型

单击IRBuild获取样例,参见README执行样例。

Atlas 200/300/500 推理产品:支持

Atlas 推理系列产品:支持

Atlas 训练系列产品:支持

Atlas 200I/500 A2 推理产品:支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件:支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持

如何构建Graph,然后直接编译并运行Graph

单击graph_run获取样例,参见README执行样例。

Atlas 200/300/500 推理产品:不支持

Atlas 推理系列产品:支持

Atlas 训练系列产品:支持

Atlas 200I/500 A2 推理产品:不支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件:支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持

如何通过自定义pass把Tile+Concat图结构修改为Concat+Tile+Concat图结构

单击1_fuse_tile_concat_pass获取样例,参见README执行样例。

Atlas 200/300/500 推理产品:支持

Atlas 推理系列产品:支持

Atlas 训练系列产品:支持

Atlas 200I/500 A2 推理产品:支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件:支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持

如何通过自定义pass把MatMul+Add图结构修改为GEMM图结构

单击2_fuse_matmul_add_pass获取样例,参见README执行样例。

Atlas 200/300/500 推理产品:支持

Atlas 推理系列产品:支持

Atlas 训练系列产品:支持

Atlas 200I/500 A2 推理产品:支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件:支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持

如何使用自定义pass修改子图

单击3_modify_subgraph_pass获取样例,参见README执行样例。

Atlas 200/300/500 推理产品:支持

Atlas 推理系列产品:支持

Atlas 训练系列产品:支持

Atlas 200I/500 A2 推理产品:支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件:支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持

编译脚本编写注意事项

您可以参考上述样例编写编译脚本,其中需要根据实际情况进行修改的部分为:

  • ASCEND_PATH:指定到“Ascend-cann-toolkit安装目录/ascend-toolkit/latest/”路径。
  • INCLUDES:需要包含的头文件,当需要添加头文件时,在示例下方直接增加行即可,注意不要删除原有项目。如果网络中有自定义算子,请增加自定义算子的原型定义头文件。
  • LIBS:需要链接的库,当需要添加链接库时,在示例下方直接增加行即可,注意不要删除原有项目。

    禁止链接软件包中的其他so,否则后续升级可能会导致兼容性问题。

程序执行前依赖的环境变量

安装CANN软件后,使用CANN运行用户进行编译、运行时,需要以CANN运行用户登录环境,执行source ${install_path}/set_env.sh命令设置环境变量。其中${install_path}为CANN软件的安装目录,例如:/usr/local/Ascend/ascend-toolkit。

上述仅列出了程序执行必配的环境变量,更多环境变量说明请参考环境变量参考