华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
各位大佬, 我们有一个4卡昇腾910NPU 服务器,想开发一个基于 LLM 大语言模型和本地知识库结合起来的 ,利用检索增强生成技术RAG的 智能问答助手,我在网上搜了一下, 昇腾社区有 案例,昇腾服务器可以支持很多开源的LLM 大语言模型,
但是不知道昇腾服务器如何利用 embedding 模型 和 大语言模型结合起来。
哪位高手能做,可以联系我。
本帖最后由 匿名用户 于 2024/07/22 16:06:54 编辑
我要发帖子
各位大佬, 我们有一个4卡昇腾910NPU 服务器,想开发一个基于 LLM 大语言模型和本地知识库结合起来的 ,利用检索增强生成技术RAG的 智能问答助手,我在网上搜了一下, 昇腾社区有 案例,昇腾服务器可以支持很多开源的LLM 大语言模型,
但是不知道昇腾服务器如何利用 embedding 模型 和 大语言模型结合起来。
哪位高手能做,可以联系我。