310B1 上使用 atb-models 进行 llm 推理 qwen2 出现问题
收藏回复举报
310B1 上使用 atb-models 进行 llm 推理 qwen2 出现问题
t('forum.solved') 已解决
发表于2024-11-28 10:03:04
0 查看

在 310B1 板子上使用 atb-modesl 进行 llm 推理时出现如下错误:

cke_1265.png

请问是怎么回事呢? 310B1 板子上不支持 atb-models 的使用吗?

我要发帖子