基础推理应用
- 推理应用开发视频课程
- 推理应用开发流程
本节介绍基于AscendCL接口开发基础推理应用的开发流程。
- 模型构建
对于开源框架的网络模型(如ONNX、TensorFlow等),不能直接在昇腾AI处理器上做推理,需要先使用ATC(Ascend Tensor Compiler)工具将开源框架的网络模型转换为适配昇腾AI处理器的离线模型(*.om文件)。
- AscendCL初始化与去初始化
本节介绍AscendCL初始化与去初始化的相关接口、注意事项,并给出示例代码。
- 运行管理资源申请与释放
本节介绍运行管理资源包括哪些、如何申请&释放这些资源,并给出示例代码。
- 数据传输
本节介绍数据传输的相关接口、注意事项,并给出示例代码。
- 模型推理