如何将训练好的pytorch模型转换到atlas 300i pro上推理。
收藏回复举报
如何将训练好的pytorch模型转换到atlas 300i pro上推理。
t('forum.solved') 已解决
发表于2024-08-14 11:13:14
0 查看
已经在gpu上将模型训练好,已经生成了权重文件,且已经实现了目标检测。怎么将该模型部署到atlas300ipro的推理卡上进行推理。在文档上看到的是将权重文件转换成onnx模型,再转换成om模型。文档中好像是在atlas训练卡上进行训练生成的权重文件,与我在gpu上训练的文件格式好像不太一样。这是第一个问题。第二个问题是我有两张卡,如何将不同的检测任务分配给不同的推理卡。

我要发帖子