华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
目标:在Atlas200DK(或Atlas200 AI加速模块)上使用NPU加速来运行Qwen2.5-0.5B-Instruct
先尝试了转OM格式,--inshape参数报错;
然后尝试cann+mindie+atb方式,但是Atlas200DK的cann版本只有6.0版本,社区没有cann8.0版本和对应版本的驱动、固件下载资源。
硬件无法更换升级成200I,华为官网似乎下架了该型号的板子的资源。
方案无解,求大佬帮助!
本帖最后由 匿名用户 于 2025/03/22 14:20:56 编辑
我要发帖子
目标:在Atlas200DK(或Atlas200 AI加速模块)上使用NPU加速来运行Qwen2.5-0.5B-Instruct
先尝试了转OM格式,--inshape参数报错;
然后尝试cann+mindie+atb方式,但是Atlas200DK的cann版本只有6.0版本,社区没有cann8.0版本和对应版本的驱动、固件下载资源。
硬件无法更换升级成200I,华为官网似乎下架了该型号的板子的资源。
方案无解,求大佬帮助!