代码尝试在NPU(神经处理单元)上运行aten::native_multi_head_attention操作,但该操作并未在NPU上实现。
收藏回复举报
代码尝试在NPU(神经处理单元)上运行aten::native_multi_head_attention操作,但该操作并未在NPU上实现。
t('forum.solved') 已解决
发表于2024-11-14 09:26:57
0 查看

image.png

我正在尝试使用CLIP模型来计算图片的clip分数,但使用npu运行时,说不支持多头注意力机制运行,这是为什么,torch_npu对native_multi_head_attention是否支持

我要发帖子