执行命令:
[root@... mindie-service]# cat bench.sh
SMPL_PARAM="{\"temperature\":1.0,\"top_k\":1,\"top_p\":0.99,\"repetition_penalty\":1.0}"
benchmark \
--TestAccuracy True \
--DatasetPath "/data/textvqa_val_performance/textvqa_val.jsonl" \
--DatasetType textvqa \
--ModelName internvl \
--ModelPath "/data/InternVL2_5-8B/" \
--TestType client \
--Concurrency 20 \
--RequestRate 1 \
--TaskKind text \
--Tokenizer True \
--MaxOutputLen 20 \
--WarmupSize 1 \
--TrustRemoteCode True \
--DoSampling False \
--Http http://127.0.0.1:1025 \
--ManagementHttp http://127.0.0.2:1026 \
--SavePath "/usr/local/Ascend/mindie/2.0.RC2/mindie-service/textvqa-performance" \
--SamplingParams=$SMPL_PARAM
报错:

最后返回结果:

这测出来的性能正确吗?
执行命令:
[root@... mindie-service]# cat bench.sh
SMPL_PARAM="{\"temperature\":1.0,\"top_k\":1,\"top_p\":0.99,\"repetition_penalty\":1.0}"
benchmark \
--TestAccuracy True \
--DatasetPath "/data/textvqa_val_performance/textvqa_val.jsonl" \
--DatasetType textvqa \
--ModelName internvl \
--ModelPath "/data/InternVL2_5-8B/" \
--TestType client \
--Concurrency 20 \
--RequestRate 1 \
--TaskKind text \
--Tokenizer True \
--MaxOutputLen 20 \
--WarmupSize 1 \
--TrustRemoteCode True \
--DoSampling False \
--Http http://127.0.0.1:1025 \
--ManagementHttp http://127.0.0.2:1026 \
--SavePath "/usr/local/Ascend/mindie/2.0.RC2/mindie-service/textvqa-performance" \
--SamplingParams=$SMPL_PARAM
报错:
最后返回结果:
这测出来的性能正确吗?