想请教一个关于昇腾算力的小问题
收藏回复举报
想请教一个关于昇腾算力的小问题
t('forum.solved') 已解决
发表于2025-03-22 01:43:53
0 查看

调研对比了几款昇腾芯片和一些其他的国产NPU的算力,例如Atlas 200I A2加速模块的20TOPS INT8版本,典型功耗25W,大约0.8TOPS/W;Atlas 300I Pro 推理卡算力为140 TOPS INT8,最大功耗72W,大约2TOPS/W。

对比比较新的一款国产AI芯片的模块,地平线的RDK Ultra提供96TOPS算力,功耗最高也是25W,但这里可能指的是稀疏算力。请问Atlas 200I A2加速模块的算力参数指的是否是稠密算力,稠密算力和稀疏算力在推理场景下区别大概有多大?区别是否是大约2倍的关系还是说需要具体模型进行分析?万分感谢!

我要发帖子