快速开始
本节提供快速安装CANN软件的示例命令,帮助您迅速部署CANN环境;若您需要详细的操作步骤请参考《CANN 软件安装指南》。
推荐使用在线安装(Conda)方式,无需预先安装依赖,即可直接安装最新或者指定版本的软件包。
安装前准备
- 安装CANN前请确认已安装NPU驱动和固件,执行命令查询,若返回驱动相关信息且无异常,则可继续安装CANN;若未安装,请参考安装NPU驱动和固件操作。
1npu-smi info - 除在线安装(Conda)方式外,使用其他的安装方式时,需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.13.x版本。
- 在线安装(Conda)时,Conda虚拟环境的安装目录(及其所有上级目录)都需有755权限。
- 离线安装时,请单击获取链接下载CANN软件包,并上传到安装环境任意路径。
从历史版本更新至CANN 8.5.0版本时,必须使用参数进行升级,或者先卸载所有历史版本,再重新安装CANN 8.5.0版本,否则可能会导致安装失败。
安装CANN
产品类型 |
操作系统 |
安装方式 |
安装命令 |
||
|---|---|---|---|---|---|
Atlas A3 系列产品 |
openEuler |
在线安装(Conda) |
|
||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Ubuntu |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Debian |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Kylin |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CentOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
BCLinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
UOSV20 |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AntOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AliOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CTyunOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CULinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Tlinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
MTOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
vesselOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
veLinux |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Atlas A2 系列产品 |
openEuler |
在线安装(Conda) |
|
||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Ubuntu |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Debian |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Kylin |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CentOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
BCLinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
UOSV20 |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AntOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AliOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CTyunOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CULinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Tlinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
MTOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
vesselOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
veLinux |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Atlas 训练系列产品 |
openEuler |
在线安装(Conda) |
|
||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Ubuntu |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Debian |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Kylin |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CentOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
BCLinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
UOSV20 |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AntOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AliOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CTyunOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CULinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Tlinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
MTOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
vesselOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
veLinux |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Atlas 推理系列产品 |
openEuler |
在线安装(Conda) |
|
||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Ubuntu |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Debian |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Kylin |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CentOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
BCLinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
UOSV20 |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AntOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AliOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CTyunOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CULinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Tlinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
MTOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
vesselOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
veLinux |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Atlas 200I/500 A2 推理产品 |
openEuler |
在线安装(Conda) |
|
||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Ubuntu |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Debian |
在线安装(Conda) |
|
|||
离线安装 |
|
||||
Kylin |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CentOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
BCLinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
UOSV20 |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AntOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
AliOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CTyunOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
CULinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
Tlinux |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
MTOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
vesselOS |
在线安装(Conda) |
|
|||
在线安装(Yum) |
|
||||
离线安装 |
|
||||
veLinux |
在线安装(Conda) |
|
|||
离线安装 |
|
运行样例
本示例以Abs算子为例,演示算子的调用逻辑、流程和编译脚本,请根据实际情况自行修改API调用脚本(*.cpp)和编译脚本(CMakeLists)。需注意,样例通过CMake进行编译,请确保环境上已安装CMake,版本大于等于3.14。
- 执行命令配置环境变量。
source ${install_path}/set_env.sh其中${install_path}为CANN软件的安装目录,例如:/usr/local/Ascend/cann。
- 在任意目录下(如“/home”下),创建示例代码文件“test_abs.cpp”,并写入以下内容。
#include <iostream> #include <vector> #include "acl/acl.h" #include "aclnnop/aclnn_abs.h" #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vector<int64_t>& shape) { int64_t shapeSize = 1; for (auto i : shape) { shapeSize *= i; } return shapeSize; } void PrintOutResult(std::vector<int64_t> &shape, void** deviceAddr) { auto size = GetShapeSize(shape); std::vector<float> resultData(size, 0); auto ret = aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), *deviceAddr, size * sizeof(resultData[0]), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("copy result from device to host failed. ERROR: %d\n", ret); return); for (int64_t i = 0; i < size; i++) { LOG_PRINT("mean result[%ld] is: %f\n", i, resultData[i]); } } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法,初始化 auto ret = aclInit(nullptr); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclInit failed. ERROR: %d\n", ret); return ret); ret = aclrtSetDevice(deviceId); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtSetDevice failed. ERROR: %d\n", ret); return ret); ret = aclrtCreateStream(stream); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtCreateStream failed. ERROR: %d\n", ret); return ret); return 0; } template <typename T> int CreateAclTensor(const std::vector<T>& hostData, const std::vector<int64_t>& shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size = GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret = aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtMalloc failed. ERROR: %d\n", ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret = aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtMemcpy failed. ERROR: %d\n", ret); return ret); // 计算连续tensor的strides std::vector<int64_t> strides(shape.size(), 1); for (int64_t i = shape.size() - 2; i >= 0; i--) { strides[i] = shape[i + 1] * strides[i + 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor = aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1. (固定写法)device/stream初始化,参考acl API文档 // 根据自己的实际device填写deviceId int32_t deviceId = 0; aclrtStream stream; auto ret = Init(deviceId, &stream); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("Init acl failed. ERROR: %d\n", ret); return ret); // 2. 构造输入与输出,需要根据API的接口自定义构造 std::vector<int64_t> selfShape = {4, 2}; std::vector<int64_t> outShape = {4, 2}; void* selfDeviceAddr = nullptr; void* outDeviceAddr = nullptr; aclTensor* self = nullptr; aclTensor* out = nullptr; std::vector<float> selfHostData = {1, -1, -1, -2, 2, -2, -3, 3}; std::vector<float> outHostData = {1, -1, -1, -2, 2, -2, -3, 3}; ret = CreateAclTensor(selfHostData, selfShape, &selfDeviceAddr, aclDataType::ACL_FLOAT, &self); CHECK_RET(ret == ACL_SUCCESS, return ret); ret = CreateAclTensor(outHostData, outShape, &outDeviceAddr, aclDataType::ACL_FLOAT, &out); CHECK_RET(ret == ACL_SUCCESS, return ret); // 3. 调用CANN算子库API,需要修改为具体的Api名称 uint64_t workspaceSize = 0; aclOpExecutor* executor; // 调用aclnnAbs第一段接口 ret = aclnnAbsGetWorkspaceSize(self, out, &workspaceSize, &executor); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclnnAbsGetWorkspaceSize failed. ERROR: %d\n", ret); return ret); // 根据第一段接口计算出的workspaceSize申请device内存 void* workspaceAddr = nullptr; if (workspaceSize > 0) { ret = aclrtMalloc(&workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("allocate workspace failed. ERROR: %d\n", ret); return ret); } // 调用aclnnAbs第二段接口 ret = aclnnAbs(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclnnAbs failed. ERROR: %d\n", ret); return ret); // 4. (固定写法)同步等待任务执行结束 ret = aclrtSynchronizeStream(stream); CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtSynchronizeStream failed. ERROR: %d\n", ret); return ret); // 5. 获取输出的值,将device侧内存上的结果拷贝至host侧,需要根据具体API的接口定义修改 PrintOutResult(outShape, &outDeviceAddr); // 6. 释放aclTensor,需要根据具体API的接口定义修改 aclDestroyTensor(self); aclDestroyTensor(out); // 7. 释放device资源 aclrtFree(selfDeviceAddr); aclrtFree(outDeviceAddr); if (workspaceSize > 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; } - 创建编译脚本“CMakeLists.txt”文件,并写入以下内容,请根据注释提示,按照实际情况修改。
# Copyright (c) Huawei Technologies Co., Ltd. 2019. All rights reserved. # CMake lowest version requirement cmake_minimum_required(VERSION 3.14) # 设置工程名 project(ACLNN_EXAMPLE) # Compile options add_compile_options(-std=c++11) # 设置编译选项 set(CMAKE_RUNTIME_OUTPUT_DIRECTORY "./bin") set(CMAKE_CXX_FLAGS_DEBUG "-fPIC -O0 -g -Wall") set(CMAKE_CXX_FLAGS_RELEASE "-fPIC -O2 -Wall") # 设置可执行文件名(如opapi_test),并指定待运行算子文件*.cpp所在目录 add_executable(opapi_test test_abs.cpp) # 设置ASCEND_PATH(CANN软件包目录,请根据实际路径修改)和INCLUDE_BASE_DIR(头文件目录) if(NOT "$ENV{ASCEND_HOME_PATH}" STREQUAL "") set(ASCEND_PATH $ENV{ASCEND_HOME_PATH}) else() set(ASCEND_PATH "/usr/local/Ascend/cann") endif() set(INCLUDE_BASE_DIR "${ASCEND_PATH}/include") include_directories( ${INCLUDE_BASE_DIR} ${INCLUDE_BASE_DIR}/aclnn ) # 设置链接的库文件路径 target_link_libraries(opapi_test PRIVATE ${ASCEND_PATH}/lib64/libascendcl.so ${ASCEND_PATH}/lib64/libnnopbase.so ${ASCEND_PATH}/lib64/libopapi_math.so) # 可执行文件在CMakeLists文件所在目录的bin目录下 install(TARGETS opapi_test DESTINATION ${CMAKE_RUNTIME_OUTPUT_DIRECTORY}) - 在CMakeLists.txt所在目录,执行如下命令,新建build目录存放生成的编译文件。
mkdir -p build
- 进入build目录,执行cmake命令编译,再执行make命令生成可执行文件。
cd build cmake ../ -DCMAKE_CXX_COMPILER=g++ -DCMAKE_SKIP_RPATH=TRUE make
编译成功后,会在build目录的bin文件夹下生成opapi_test可执行文件。
- 进入bin目录,运行可执行文件opapi_test。
cd bin ./opapi_test
Abs算子的运行后结果示例如下:
mean result[0] is: 1.000000 mean result[1] is: 1.000000 mean result[2] is: 1.000000 mean result[3] is: 2.000000 mean result[4] is: 2.000000 mean result[5] is: 2.000000 mean result[6] is: 3.000000 mean result[7] is: 3.000000