llamafactory-cli train 启动模型训练 libopapi.sonot found 找不到
收藏回复举报
llamafactory-cli train 启动模型训练 libopapi.sonot found 找不到
t('forum.solved') 已解决
新人帖
发表于2024-09-20 15:54:06
0 查看

aclnnMatmul or aclnnMatmulGetWorkspaceSize not in libopapi.so, or libopapi.sonot found.  找不到,启动参数

llamafactory-cli train \ 

    --stage sft \ 

    --do_train True \ 

    --model_name_or_path /mnt/0913/Qwen1.572B/ \ 

    --preprocessing_num_workers 16 \ 

    --finetuning_type lora \ 

    --template default \ 

    --flash_attn auto \ 

    --dataset_dir data \ 

    --dataset alpha_zh_demo \ 

    --cutoff_len 1024 \ 

    --learning_rate 5e-05 \ 

    --num_train_epochs 3.0 \ 

    --max_samples 100000 \ 

    --per_device_train_batch_size 2 \ 

    --gradient_accumulation_steps 8 \ 

    --lr_scheduler_type cosine \ 

    --max_grad_norm 1.0 \ 

    --logging_steps 5 \ 

    --save_steps 100 \ 

    --warmup_steps 0 \ 

    --optim adamw_torch \ 

    --packing False \ 

    --report_to none \ 

    --output_dir saves/Custom/lora/train_2024-09-20-03-39-58 \ 

    --bf16 True \ 

    --plot_loss True \ 

    --ddp_timeout 180000000 \ 

    --include_num_input_tokens_seen True \ 

    --lora_rank 8 \ 

    --lora_alpha 16 \ 

    --lora_dropout 0 \ 

    --lora_target all \ 

    --deepspeed cache/ds_z3_config.json 

我要发帖子