MindIE如何适配自己实现的模型结构
收藏回复举报
MindIE如何适配自己实现的模型结构
t('forum.solved') 已解决
新人帖
发表于2024-10-29 20:20:10
0 查看
我们用MindIE做基础模型的推理速度是挺快的,但是我们在对模型结构进行修改后,无法使用MindIE做推理,因为MindIE里面从token id到logits值是闭源的一个完整算子,我们通过什么办法可以修改这里面的模型结构呢?

我要发帖子