昇腾论坛

点赞

收藏

回复

举报

可以不量化跑deepseek-14b 和deepseek-32b模型吗

已解决

发表于2025-11-15 11:01:49

0 查看

RT，教程里都是量化版本的方法，跑的话需要事先量化W8A8，已跑通。如果不量化的情况下，怎么跑

匿名回复

我要发帖子