昇腾论坛

求助，LLM语言模型从pytorch的onnx文件格式转om，转的过程没有任何报错和警告，就是转后用ais_bench执行，结果是乱码

发表于2024-03-04 12:08:37

0 查看

我对gpt2-117M和chatglm2-6B的onnx转om格式，转的过程没有任何报错和警告，在线推理和onnx的离线推理都没有问题，就是转后用ais_bench执行om，结果是乱码。

下面是gpt2转om时的信息

%E6%90%9C%E7%8B%97%E6%88%AA%E5%9B%BE20240304115003.png

下面是Netron显示gpt2.om的图，为什么图会多了很多悬空的算子

%E6%90%9C%E7%8B%97%E6%88%AA%E5%9B%BE20240304120324.png

最后是到底昇腾有没有实现Transformer的算子

本帖最后由匿名用户于 2024/03/04 15:35:34 编辑

匿名回复

我要发帖子