MindIE Benchmark使用Client推理模式运行时报424错误
问题描述
MindIE Benchmark使用Client推理模式运行时报424错误,如下图所示。
Service日志报如下图所示错误。
解决步骤
- Client模式,由于Service只支持文本输入,无法获得token长度,没法做截断,需要将“--MaxOutputLen”值改小。
- Engine模式,设置MaxInputLen即可做输入token长度的截断,只要config.json中配置的“maxIterTimes<= maxSeqLen”即可。
父主题: FAQ