MindIE中大语言模型是否支持INT4数据类型
收藏回复举报
MindIE中大语言模型是否支持INT4数据类型
t('forum.solved') 已解决
发表于2024-11-28 08:40:12
0 查看

800IA2机型,Qwen2-72B/Baichuan2-7B/Baichuan2-13B是否支持int4数据类型?

若不支持,短期内是否会发布支持int4的版本?

本帖最后由 匿名用户2024/11/28 08:49:46 编辑

我要发帖子