华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
问题现象:
mindie 2.0.RC1
模型:deepseek-r1-w8a8
服务化部署之后,推理时输入token到50000会报下面的错,49900就不会报错
{'error': 'Failed to enqueue inferRequest. forward fail', 'error_type': 'Incomplete Generation'}
我要发帖子
问题现象:
mindie 2.0.RC1
模型:deepseek-r1-w8a8
服务化部署之后,推理时输入token到50000会报下面的错,49900就不会报错
{'error': 'Failed to enqueue inferRequest. forward fail', 'error_type': 'Incomplete Generation'}