1 背景介绍随着昇腾软件生态的不断发展，软件版本的迭代速度也不断加快，如何选择到正确的软件配套版本，成为很多昇腾开发者遇到的问题，本文将对驱动固件、CANN、Torch-npu、mindie等组件之间的关系进行梳理，总结一下软件版本配套方案 2 产品介绍要能准确选择到正确的软件包，首先最重要的是需要确认好手上的机器是什么昇腾产品，当前昇腾产品型号众多，有推理系列产品、训练系列产品、服务器、超节点、A2、A3等，各个开发者可能都有不同的叫法，导致很多开发者确认自己的产品型号也比较困难。那这里我们得先分清楚什么是昇腾产品、什么是昇腾NPU卡 2.1 产品和NPU卡的区别产品和NPU卡的区别 2.1.1 昇腾产品昇腾产品，其实就是对服务器、超节点、加速卡的命名例如：服务器有800I A2、800I A3，超节点有Atlas 900 A3 SuperPoD，加速卡有300I Duo、300V Pro等这些都是属于昇腾产品，这里社区官方也提供了当前昇腾产品形态的介绍，具体可以查看： https://www.hiascend.com/ 2.1.2 昇腾NPU卡（处理器）关于npu的介绍，目前官方没有非常详细的描述，其实这个很多昇腾开发者都已经有了解过，像我们经常提到的910系列、310系列的就属于NPU卡，例如：910B系列、310P 2.2 产品确认经过上述介绍，相信开发者们都对昇腾产品形态有了一定的了解，但是昇腾产品那么多，有没有能够快速确认产品形态的办法呢，这个可以其实可以在服务器系统内通过一行命令就能基本确认： lspci -n -D | grep -o '19e5:d[0-9a-f]{3}' | head -n1 | cut -d: -f2 该命令不需要安装昇腾的任何软件就可以使用，只需要进入服务器内例如：Atlas 300I Duo 推理卡，上述命令查询出来的结果是d500，这个设备ID其实就是对应了大部分300系列的加速卡产品，即：310P 官方在对应的产品文档中也有对应说明，可参考：https://support.huawei.com/enterprise/zh/doc/EDOC1100591772/ccc2f08e?idPath=23710424|251366513|22892968|252309139|252823107 这里为了方便各位开发者查阅，整理了部分信息如下： Device ID 产品型号 NPU处理器 d806 Atlas 350 加速卡昇腾950系列 d803 A200T A3 Box8 系列硬件产品 Atlas 800T A3 超节点 Atlas 800I A3 系列硬件产品 Atlas 9000 A3 SuperPoD 集群算力系统、 Atlas 900 A3 SuperPoD 超节点昇腾910C系列 d802 Atlas 900 A2 PoD Atlas 200T A2 Box16 Atlas 800T A2 训练服务器 Atlas 800I A2 推理服务器昇腾910B系列 d801 Atlas 300T Pro 训练卡（型号：9000） Atlas 300T 训练卡（型号：9000） Atlas 800 训练服务器（型号：9000） Atlas 800 训练服务器（型号：9010） Atlas 900 计算节点 Atlas 900T RAK 计算节点昇腾910系列 d500 Atlas 300I Pro Atlas 300V Pro Atlas 300I Duo Atlas 300V 昇腾310P系列 d107 Atlas 200I DK A2 Atlas 200I A2 加速模块昇腾310B系列注：若查询出的设备ID不在上述表格，大概率是已EOS的产品或其他形态产品，社区官方当前也未提供对应配套兼容的软件 3 驱动固件配套 3.1 操作系统在确认好使用的产品后，这个时候就首要的安装驱动固件了，不过在此之前还有一个事情就是需要确认一下操作系统是否适配，这里官方也给出了一些适配的系统： https://www.hiascend.com/hardware/compatibility 不过其实大部分操作系统都基本兼容昇腾，不在列表说明的系统版本，只是可能在安装驱动固件的时候会出现“dkms”等相关依赖缺失，执行一下命令即可： yum install -y make dkms gcc kernel-headers-(uname -r) 3.2 软件包选择确定好产品后，如何选择到正确的驱动固件安装包呢，这里最主要的就是根据上面确认好的产品形态来确认对应的安装包这里还是以Duo卡为例：在前面有介绍到Duo卡属于加速卡这里产品系列就选择加速卡这里软件包上面就对应duo卡处理器的安装包不过不同产品，软件包命名规则也不一样，有的是使用产品名命名的，像A3产品，软件包描述是A3，这个需要开发者们在选择的时候注意一下那对于一些没有在产品列表说明的机器环境，比如一些昇腾合作伙伴提供的产品，下载页面也没有说明，要如何确认呢?其实这个也是按照我们上面的思路来，先确认Device ID，再对应到NPU处理器即可，对于同样处理器的驱动固件，目前大部分都是兼容的对于A5的驱动固件，由于当前950系列产品为受限获取，只能申请商用版： https://support.huawei.com/enterprise/zh/atlas-computing/ascend-hdk-pid-252764743/software/269758967?idAbsPath=fixnode01|23710424|251366513|254884019|261408772|252764743 目前存在特殊的场景是310B和310P系列的，这个因为有些是有RC和EP版本的区分，如果是需要RC版本的，对应一些合作伙伴的产品，可能没办法完全兼容，如果需要对应RC版本的驱动，建议还是咨询一下自己的购买渠道，对于Atlas 200I DK A2产品因为当前官方没有提供新的配套的驱动固件，各位开发者也可以尝试使用200I A2 加速模块的soc版本的进行尝试一下更新 3.3 版本选择驱动固件版本选择很多时候都是需要依赖于上层使用的软件版本选择，驱动固件的版本是依赖于CANN版本的，比如这里以最新的CANN版本举例：跟CANN9.2.0-beta.1版本配套的驱动是26.0.RC1，如果我们业务上需要使用这个版本的CANN，就需要安装这个版本的驱动其他版本的配套情况，在CANN的文档内有说明，各位开发者可以直接查看CANN的文档来选择适合的版本即可 CANN版本配套文档： https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/releasenote/9.2.0-beta.1/release-notes.md 驱动固件版本下载： https://www.hiascend.com/hardware/firmware-drivers?ids=d803%2C89dda9ba9de741349efa03687a487678%2C22%2CAArch64%2Conline_Yum 4 CANN版本配套 4.1 CANN介绍前面介绍了CANN和驱动固件的兼容关系，CANN是昇腾软件栈中非常重要的一层软件，几乎所有在昇腾上运行的软件都要依赖CANN，所以选择一个正确的CANN版本就非常重要，在此之前，我们先了解一下CANN软件包的分类。 CANN开发套件包（tookit）软件包名带有toolkit的即tookit包，tookit包不区分产品型号，只需要关注对应版本号算子包该软件包区分产品和NPU处理器，不同的产品，需要安装不同的算子包 CANN 8.5.0版本（正式版）之前的算子包是带有kernels字样的软件包，在8.5.0之后版本换成了ops包，例如： 8.3.RC2： 9.2.0-beta.1：这里也可以看到，算子包区分了310p、910b、910这些产品形态神经网络加速库（NNAL）这个跟tookit包一样，不区分产品安装包，关注版本即可 4.2 版本选择经过上面了解，大家应该都知道一个CANN环境的安装都需要哪些包了，那现在最重要的还是，这边CANN的版本号我该选择哪一个呢？这里提供两种选择的思路：（一）基于业务适配大部分开发者在使用昇腾，大多数情况都是需要部署训练、推理业务，像：pytorch、mindie、vllm等框架的使用，都需要依赖CANN去运行确认好框架版本对应的CANN版本后（如何确认框架和CANN的配套关系，下一章节介绍），我们就可以选择合适的驱动固件版本，例如：确定好当前业务场景需要8.5.0版本的CANN后，这里就可以通过查看版本配套表，官方在每个对应版本的CANN文档都有提供： https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850/releasenote/releasenote_0000.html 按照文档描述，这个选择25.5、25.3、25.2、25.0相关的驱动版本，这里选择25.5.1跟CANN8.5.0配套：（二）基于驱动选择对于有些开发者，驱动无法更新，这时候就得根据驱动版本来选择CANN了，目前社区官方暂时没找到根据某个版本驱动来确定CANN，还是只能根据筛选不同的CANN版本来查看配套的驱动版本是否跟当前机器上的一样，如果找不到版本号一样的，选择相近版本的也是可以的，例如当前驱动是24版本的，想选择一个合适的CANN，这里发现在驱动固件的下载页面根据CANN 9.0.0是选择不到24版本的驱动的，这个就说明24版本驱动跟CANN 9.0.0并不是官方推荐的配套版本，只有换到CANN 8.3.RC2才会显示24版本驱动，这时候就可以选择8.3.RC2的CANN 这里还有一个确定驱动固件跟CANN版本是否配套的个人经验，各位开发者也可以参考一下：在服务器的驱动固件和CANN的安装目录下面，默认是/usr/local/Ascend，在对应目录查看这里驱动固件的version信息中如果有一个跟CANN的ascendtoolkitinstall.info中的compatible_version有一个是相同的，大概率是配套的 ascend_toolkit_install.info： 5 框架配套确定好CANN后，其实昇腾上基本的配套环境就已经安装得差不多了，剩下的就是看业务需要哪个框架，然后在看看对应框架配套的CANN版本就行，在昇腾产品上选择配套的软件也基本是按照跟CANN配套的选择来就行这里介绍几个目前主流的几个框架如何在昇腾上版本配套 5.1 Pytorch 配套说明： https://www.hiascend.com/document/detail/zh/Pytorch/latest/releasenote/docs/zh/release_notes/release_notes.md 这里Pytorch版本是原生Pytorch的版本，昇腾这边是通过了Ascend for Pytorch（torchnpu）这个插件来适配了原生Pytorch，这两个软件包是不一样的，所以昇腾上两个软件包都需要安装我们业务上确定需要Pytorch原生版本2.7.1，那我们就要选择torchnpu的26.1.0的版本，这里的2.7.1.post8是torch_npu软件包的命名，然后再选择CANN 9.1.0配套，按照前面章节介绍的在选择对应的驱动固件版本，这样我们就完成了一个昇腾上的Pytorch环境的配套 5.2 VLLM 配套说明： https://docs.vllm.ai/projects/ascend/zh-cn/main/community/versioning_policy.html#vllm-ascend vllm配套也是类似的，vllm为原生框架，vllm-ascend即适配的插件，按照官方文档给的配套表选择就行 5.3 MindIE 配套说明： https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/docs/zh/release_note_motor.md 目前官方基本都在每个产品文档内提供了版本配套说明，各位开发者按照自己的业务使用需求找对应的文档查看即可关于产品文档的查找，这里简单介绍一下，在昇腾社区开发者页面能查看到当前的产品文档： https://www.hiascend.com/developer 5.4 镜像配套这里另外再介绍一下昇腾提供的镜像，目前昇腾提供的大部分进行都包含了CANN的环境，使用如果是选择镜像的话，只需要查看当前镜像内的CANN版本是否和宿主机驱动版本配套即可，原则上是尽量选择与当前CANN版本配套的最新的驱动固件昇腾镜像仓库：https://www.hiascend.com/developer/ascendhub Red Hat 镜像仓：https://quay.io/organization/ascend 6. 总结最后，这里总结一下昇腾软件版本配套选择的总体方案思路：业务框架版本-->CANN-->驱动固件-->操作系统根据自身的业务需要的框架版本，选择到对应的CANN版本再选择到驱动固件版本，基本上就完成了昇腾环境上的版本配套本次关于昇腾软件版本配套的交流分析就到这，欢迎各位开发者可以在评论区分享一下自己的版本配套经验