大模型推理时使用ASCEND_VISIBLE_DEVICES=0不生效
收藏回复举报
大模型推理时使用ASCEND_VISIBLE_DEVICES=0不生效
t('forum.solved') 已解决
发表于2024-12-27 14:53:07
0 查看
大模型推理时使用ASCEND_VISIBLE_DEVICES=0不生效,仍然识别到8卡,最新的昇腾推理卡

我要发帖子