调研对比了几款昇腾芯片和一些其他的国产NPU的算力,例如Atlas 200I A2加速模块的20TOPS INT8版本,典型功耗25W,大约0.8TOPS/W;Atlas 300I Pro 推理卡算力为140 TOPS INT8,最大功耗72W,大约2TOPS/W。
对比比较新的一款国产AI芯片的模块,地平线的RDK Ultra提供96TOPS算力,功耗最高也是25W,但这里可能指的是稀疏算力。请问Atlas 200I A2加速模块的算力参数指的是否是稠密算力,稠密算力和稀疏算力在推理场景下区别大概有多大?区别是否是大约2倍的关系还是说需要具体模型进行分析?万分感谢!
调研对比了几款昇腾芯片和一些其他的国产NPU的算力,例如Atlas 200I A2加速模块的20TOPS INT8版本,典型功耗25W,大约0.8TOPS/W;Atlas 300I Pro 推理卡算力为140 TOPS INT8,最大功耗72W,大约2TOPS/W。
对比比较新的一款国产AI芯片的模块,地平线的RDK Ultra提供96TOPS算力,功耗最高也是25W,但这里可能指的是稀疏算力。请问Atlas 200I A2加速模块的算力参数指的是否是稠密算力,稠密算力和稀疏算力在推理场景下区别大概有多大?区别是否是大约2倍的关系还是说需要具体模型进行分析?万分感谢!