Atlas 800I A2

环境中创建rerank服务和embedding服务
BAAI/bge-reranker-large rerank模型
BAAI/bge-large-zh-v1.5 embedding模型
rerank服务找不到 [llm] [ERROR] [model_deploy_config.cpp:102] Failed to get vocab size from tokenizer wrapper with exception: NotImplementedErro r: unsupported model type: xlm-roberta;请确认atb_llm.models路径下是否存在名为xlm-roberta的文件夹

看了一下官网的手册 minie2.0 rc1 没支持嵌入模型 只有1.0支持




Atlas 800I A2
环境中创建rerank服务和embedding服务
BAAI/bge-reranker-large rerank模型
BAAI/bge-large-zh-v1.5 embedding模型
rerank服务找不到 [llm] [ERROR] [model_deploy_config.cpp:102] Failed to get vocab size from tokenizer wrapper with exception: NotImplementedErro r: unsupported model type: xlm-roberta;请确认atb_llm.models路径下是否存在名为xlm-roberta的文件夹
看了一下官网的手册 minie2.0 rc1 没支持嵌入模型 只有1.0支持