华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
加速卡:300I DUO
参照https://gitee.com/ascend/ModelLink/tree/bk_origin_23/mindie_ref/mindie_llm/atb_models/examples/models/baichuan推理
已经可以运行了,但是怎么使用多lora同时推理呢
我要发帖子
加速卡:300I DUO
参照https://gitee.com/ascend/ModelLink/tree/bk_origin_23/mindie_ref/mindie_llm/atb_models/examples/models/baichuan推理
已经可以运行了,但是怎么使用多lora同时推理呢