InternVL2.5-8B在Atlas 300I Duo卡上benchmark做性能测试,报错Merging data from different processes: [benchmark] [ERROR] [results.py
收藏回复举报
InternVL2.5-8B在Atlas 300I Duo卡上benchmark做性能测试,报错Merging data from different processes: [benchmark] [ERROR] [results.py
t('forum.solved') 已解决
发表于2025-06-18 10:02:42
0 查看

执行命令:

[root@...   mindie-service]# cat  bench.sh 

SMPL_PARAM="{\"temperature\":1.0,\"top_k\":1,\"top_p\":0.99,\"repetition_penalty\":1.0}" 

benchmark \ 

--TestAccuracy True \ 

--DatasetPath "/data/textvqa_val_performance/textvqa_val.jsonl" \ 

--DatasetType textvqa \ 

--ModelName internvl \ 

--ModelPath "/data/InternVL2_5-8B/" \ 

--TestType client \ 

--Concurrency 20 \ 

--RequestRate 1 \ 

--TaskKind text \ 

--Tokenizer True \ 

--MaxOutputLen 20  \ 

--WarmupSize 1 \ 

--TrustRemoteCode True \ 

--DoSampling False \ 

--Http http://127.0.0.1:1025 \ 

--ManagementHttp http://127.0.0.2:1026 \ 

--SavePath "/usr/local/Ascend/mindie/2.0.RC2/mindie-service/textvqa-performance" \ 

--SamplingParams=$SMPL_PARAM 

报错:

cke_7879.png

最后返回结果:

cke_12938.png

这测出来的性能正确吗?

我要发帖子