Atlas 300I Duo卡,docker中加载模型后,怎么测试一下对话呀,问答式的
收藏回复举报
Atlas 300I Duo卡,docker中加载模型后,怎么测试一下对话呀,问答式的
t('forum.solved') 已解决
发表于2025-04-14 13:36:45
0 查看

Atlas 300I Duo卡,openEuler22 aarch64

拉取镜像:swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie   1.0.0-300I-Duo-py311-openeuler24.03-lts

进入docker后,执行

torchrun --nproc_per_node 2 \ 

         --master_port 20037 \ 

         -m examples.run_pa \ 

         --model_path /home \ 

         --max_output_length 20

直接是下面这个,我怎么测试对话chat呢

cke_6378.png

我要发帖子