昇腾社区首页
中文
注册

MindIE Benchmark使用Client推理模式运行时报424错误

问题描述

MindIE Benchmark使用Client推理模式运行时报424错误,如下图所示。

Service日志报如下图所示错误。

解决步骤

  1. Client模式,由于Service只支持文本输入,无法获得token长度,没法做截断,需要将“--MaxOutputLen”值改小。
  2. Engine模式,设置MaxInputLen即可做输入token长度的截断,只要config.json中配置的“maxIterTimes<= maxSeqLen”即可。