嵌入模型支持列表

嵌入模型的具体使用方法请参见《MindIE开源第三方服务化框架适配开发指南》的“TEI > 使用差异 > 模型准备 > 选择MindIE Torch作为模型后端”章节。
由于MindIE服务化框架将于下个版本（版本号：2.0.RC1）起停止对开源第三方服务化框架的默认对接支持，所以嵌入模型将于下个版本（版本号：2.0.RC1）同步下架。

模型名称	多卡能力	数据类型	服务化	长序列	模型权重链接
bge-large-zh-v1.5	Atlas 800I A2 推理产品（32G）：支持的卡数为1。 Atlas 300I Duo 推理卡：支持的卡数为1。	FP16：支持 BF16：不支持	不支持	不支持	链接
bge-reranker-large	Atlas 800I A2 推理产品（32G）：支持的卡数为1。 Atlas 300I Duo 推理卡：支持的卡数为1。	FP16：支持 BF16：不支持	不支持	不支持	链接
bge-m3	Atlas 800I A2 推理产品（32G）：支持的卡数为1。 Atlas 300I Duo 推理卡：支持的卡数为1。	FP16：支持 BF16：不支持	不支持	不支持	链接

父主题： 支持的模型列表