A800-3000服务器+ Atlas 300T Pro显卡,能推理大模型吗?
收藏回复举报
A800-3000服务器+ Atlas 300T Pro显卡,能推理大模型吗?
t('forum.solved') 已解决
新人帖
发表于2025-02-12 19:29:02
0 查看
我有两台A800-3000的服务器,一台插着1张Atlas 300T Pro显卡,一台插着4张Atlas 300I Pro 显卡 。请帮忙分析这两套设备能推理大模型吗? 建议用什么框架呢? 能部署mindformers框架不? 该装怎样的驱动、固件、CANN版本?

我要发帖子