华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
我使用910推理 deepseek量化模型时一样碰到error：AttributeError: 'ForkAwareLocal' object has no attribute 'connection'。 使用的镜像有两个： 2.0.T3.1-800I-A2-py311-openeuler24.03-lts 2.0.T3-800I-A2-py311-openeuler24.03-lts
模型为：https://modelers.cn/models/State_Cloud/DeepSeek-R1-W8A8
本帖最后由 匿名用户 于 2025/03/18 17:05:41 编辑
我要发帖子
点赞
收藏
回复
分享
举报
已解决 已解决
我使用910推理 deepseek量化模型时一样碰到error：AttributeError: 'ForkAwareLocal' object has no attribute 'connection'。
使用的镜像有两个：
2.0.T3.1-800I-A2-py311-openeuler24.03-lts
2.0.T3-800I-A2-py311-openeuler24.03-lts
模型为：https://modelers.cn/models/State_Cloud/DeepSeek-R1-W8A8