使用AMCT工具进行INT8量化,输入格式是fp32的。那么推理时输入是自动转成int8了吗
收藏回复举报
使用AMCT工具进行INT8量化,输入格式是fp32的。那么推理时输入是自动转成int8了吗
t('forum.solved') 已解决
新人帖
发表于2024-03-18 12:52:16
0 查看
使用AMCT工具进行INT8量化,输入格式是fp32的。那么推理时输入是自动转成int8了吗

本帖最后由 匿名用户2024/06/27 16:35:38 编辑

我要发帖子