昇腾服务器能开发基于本地知识库和LLM 结合的问答系统啊
收藏回复举报
昇腾服务器能开发基于本地知识库和LLM 结合的问答系统啊
新人帖
发表于2024-07-22 14:48:25
0 查看

各位大佬, 我们有一个4卡昇腾910NPU 服务器,想开发一个基于 LLM 大语言模型和本地知识库结合起来的 ,利用检索增强生成技术RAG的 智能问答助手,我在网上搜了一下, 昇腾社区有 案例,昇腾服务器可以支持很多开源的LLM 大语言模型,

但是不知道昇腾服务器如何利用  embedding 模型 和 大语言模型结合起来。

哪位高手能做,可以联系我。

本帖最后由 匿名用户2024/07/22 16:06:54 编辑

我要发帖子