mindie里的baichuan2-13b怎么使用多lora同时进行推理
收藏回复举报
mindie里的baichuan2-13b怎么使用多lora同时进行推理
t('forum.solved') 已解决
新人帖
发表于2024-07-30 16:08:10
0 查看

加速卡:300I DUO

参照https://gitee.com/ascend/ModelLink/tree/bk_origin_23/mindie_ref/mindie_llm/atb_models/examples/models/baichuan推理

已经可以运行了,但是怎么使用多lora同时推理呢

我要发帖子