1、CANN与Ascend HDK版本配套关系
2、 CANN组合包版本配套关系
3、 CANN独立升级子包版本配套关系
4、CANN开源子包版本配套关系
- Ascend 950PR/Ascend 950DT适配与场景支持:[object Object] 1)Diag算子适配();[object Object] 2)Asin算子适配();[object Object] 3)PadV2算子适配();[object Object] 4)BitwiseOr/BitwiseXor整型数据类型支持();[object Object] 5)Cross算子适配();[object Object] 6)AngleV2算子适配()。[object Object]
- 性能优化:[object Object] 1)Sort算子小轴场景排序性能优化();[object Object] 2)随机数算子生成性能优化();[object Object] 3)TopkV2算子性能优化,提升int64索引场景计算效率();[object Object] 4)AICPU算子性能优化,覆盖ClipByValueV2()、ConcatV2()、CumSum()。[object Object]
- 工程优化:[object Object] 1)并行解压编译加速();[object Object] 2)统一引用CANN公共仓构建API,精简冗余构建脚本();[object Object] 3)去除gawk外部依赖,采用纯bash实现时间戳格式化()。[object Object]
- Ascend 950PR/Ascend 950DT适配与场景支持:[object Object] 1)NMSWithMask算子适配();[object Object] 2)GridSampler2DGrad算子适配Bicubic模式();[object Object] 3)UpsampleNearestExact2d/3d算子适配();[object Object] 4)UpsampleNearestExact1d算子适配();[object Object] 5)UpsampleNearestExactGrad算子适配();[object Object] 6)UpsampleTrilinear3d算子适配();[object Object] 7)CIoU算子适配();[object Object] 8)BlendFaceBgPartTwo算子适配()。[object Object]
- 性能优化:[object Object] 1)ResizeNearestNeighborV2算子NCHW格式性能优化();[object Object] 2)GridSamplerGrad算子性能优化()。[object Object]
- 工程优化:[object Object] 1)统一引用CANN公共仓构建API,精简冗余构建脚本();[object Object] 2)统一使用CANN公共仓接口管理第三方依赖();[object Object] 3)ops-cv安装优化改造,解压即安装。[object Object]
- 新增特性:[object Object] 1)支持float8/float6/float4数据类型及资料(、、);[object Object] 2)reduce模板混合精度支持();[object Object] 3)新增非连续输入算子静态支持(、);[object Object] 4)日志接口DFX增强(、、、)。[object Object]
- 性能优化:[object Object] 1)broadcast非连续tensor性能优化();[object Object] 2)优化build.sh增量编译性能,复用CMake缓存避免重复配置()。[object Object]
- 工程优化:[object Object] 1)切换工程构建打包依赖至CANN公共仓();[object Object] 2)安装优化改造,解压即安装()。[object Object]
- 卷积算子功能性能优化,优化多模态网络性能,内存占用不理恶化()。[object Object] 1)dX支持超大W输入场景对W切分;[object Object] 2)dW支持确定性场景下开启性能优化特性;[object Object] 3)dX支持stride=kernel和fmap=kernel场景转MM,优化性能。[object Object]
- Ascend950新场景支持支持:[object Object] 1)引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和代码重复率()[object Object] 2)完善低bit类算子,支持精度补偿,优化整网精度RmsNormDynamicMxQuant(),DynamicBlockMxQuant(),DualLevelQuantBatchMatmul()[object Object] 3)HardswishBackwardV2()、SyncBatchNormGatherStatsWithCounts()
- nn仓工程优化:[object Object] 1)Ascend950支持静态库()[object Object] 2)kernel配置脚本优化()
注意力(Attention/MLA)类
- 新增SparseFlashMla(稀疏FlashMLA)算子,并支持稀疏注意力KV合并,提升长序列稀疏注意力场景的计算与访存效率(、)。
- 新增LightningIndexerV2算子()。
- 新增aclnnBlockSparseAttentionV2接口,适配FP8量化的BlockSparseAttention算子;BlockSparseAttention在A5上支持FP8场景性能改进与BSND输入排布,950正向/推理的量化与非量化kernel支持LSE输出,并新增BlockSparseAttentionGrad反向算子(、、、、)。
- FusedInferAttentionScore支持LSE输出,AttentionUpdate在A2/A3支持sp128(、)。
- ScatterPaKvCache/GatherPaKvCache新增cache首轴非连续tensor支持,MlaProlog支持KVCache非连续输入(、)。
- RecurrentGatedDeltaRule支持state前两轴非连续,SMLAG新增torch适配及新特性支持(、)。
MoE类
- MoeInitRoutingV3非量化场景支持DropPad,UnpermuteWithRoutingMap新增N规格non-topk支持(、)。
- MegaMoe新增A2/A3 Tiling、静态tensor及syncfunc功能,并补充A2/A3 kernel(、)。
GMM(GroupedMatmul)量化类
- GroupedMatmulFinalizeRouting在A5上新增W8A8场景的确定性支持()。
- GroupedMatmulSwigluQuantV2新增WeightNz MxA8W4数据流及MXFP4权重NZ格式支持(、、)。
MC2(通信-计算融合)类
- 新增AllToAllMatmulV2算子()。
- AllGatherMatmulV2、AllToAllVGroupedMatmul/GroupedMatmulAllToAllV增加comm_mode通信引擎参数,支持选择通信引擎(、)。
- MatmulReduceScatterV2适配AICPU通信()。
集合通信:PDCCL支持显存资源预留功能,显存资源预留相关需求功能CANN领域内部涉及组件统一由集合通信进行分解(NPU Driver/CANN/HCCL),包含以下功能(): 1)集合通信支持根据HDK的npu-smi或HCCN_TOOL工具提供显存资源预留配置预留显存资源; 2)集合通信支持提供预留显存资源的预留、分配等管理功能; 3)集合通信支持识别PDCCL进程,并向内核态申请预留显存资源;
HIXL 底层通信接口开放:构建 Client-Server 模式单边通信能力,全面提升建链规格与建链性能。针对批量小 Buffer 传输场景深度优化,有效降低 HBM 占用与通信资源开销()
HIXL 网络传输协议扩展:单边通信新增 UBC、UBoE、Host RoCE 协议支持,完整覆盖 D2D、D2rH、rH2D、H2H 全场景数据传输(),不同产品形态的协议支持清单可查阅 社区
HIXL 编程 API 能力增强:扩展异步链路管理()、传输状态批量查询()两类接口,丰富异步编程范式,提升上层业务开发效率
Ascend 950PR HcclChannelAcquire接口支持AIV直驱RoCE和URMA能力,支撑通算融合算子的自定义开发()
- 支持Ascend 950DT形态图框架能力恢复.
- 维测能力:
- 编译工程
- 基础API
- SIMT编程
- SIMD样例:
- 新增最佳实践样例:matmul+gelu融合、datacopy优化、bank冲突优化、group_matmul量化组矩阵乘、simt&simd高性能编程( )。
- 新增Ascend 950新特性样例及兼容性样例整改:loopmode数据搬运、interleave矢量计算、datacopy_gm2l1、loadmx(Load2DMX)、mmad_mx、data_copy_pad等( )。
- 新增RegBase基础样例:基础算术、数据类型转换、归约、比较、索引等样例( )。
- 新增SIMD VF print样例和dump样例()。
- 新增Tensor API入门及最佳实践样例:Matmul入门、数据搬入搬出、搬出随路量化、MX FP4最佳实践()。
- SIMT样例:
- 新增矩阵计算概述和计算分形介绍的文档()。
- 优化矢量计算API文档,补充指令约束等()。
- 增加SIMD与SIMT混合编程性能优化概述()。
- 搭建VitePress文档站点,提供AscendC资料预览功能()。
子包独立升级提供了灵活的按需升级功能。
使用场景举例:某用户已安装了a.b.c版本的组合包Ascend-cann-toolkit和Ascend-cann-ops,由于业务需要,要求将单边通信库能力更新至x.y.z版本,此时,可通过独立升级子包cann-hixl来实现。其中a.b.c和x.y.z请替换为实际版本号。
升级子包前,请确保已安装配套版本的组合包Ascend-cann-toolkit和Ascend-cann-ops。如未安装,请参考《》进行安装。
子包的升级路径应与组合包的安装路径保持一致。所有子包的升级操作相同,以下以升级 cann-hixl_x.y.z_linux-aarch64.run 为例进行说明。
升级场景一:
组合包Ascend-cann-toolkit和Ascend-cann-ops安装在默认路径下(即安装时未使用“--install-path”参数)
升级场景二:
组合包Ascend-cann-toolkit和Ascend-cann-ops安装在指定路径“/home/custom_path”(即安装时指定“--install-path=/home/custom_path”)