baichuan2-7B模型推理报错fused_weight_gradient_mlp_cuda module is not found
收藏回复举报
baichuan2-7B模型推理报错fused_weight_gradient_mlp_cuda module is not found
t('forum.solved') 已解决
发表于2024-07-22 18:27:02
0 查看

这个是我的错误:

cke_3877.png

这个是我的推理shell脚本,是执行python脚本的时候加的选项有不合适的吗?

cke_1633.png

我要发帖子