方案介绍
灵悉智能问答助手基于大模型+向量知识库+Agent智能体编排技术,实现通用领域+私域知识的定制应用开发,打造客户专属的AI专业智能助手,助力实现更加智能、高效的工作方式。该产品提供大模型服务特色底座,构建智能体原生应用,简化知识库构建流程,提供多样化的大模型选择,让应用创建更灵活。现阶段致力于解决模型选择难、应用创建不灵活等问题,帮助客户实现大模型在端侧的快速部署与高效应用,为业务创新提供强大的技术支持,打造卓越的端侧大模型服务体验。
方案架构图
算法/关键配置
适配算法/关键配置名称算法/关键配置描述
驱动、固件和CANN版本驱动和固件版本不低于23.0.0,CANN版本不低于8.0
九天超融合信创一体机配备Atlas 300I Duo推理计算卡
搜索多路召回文本和向量召回同步进行,提升业务效果
向量模型提供多种模型向量化知识库中文本,应对多类用户需求
Query优化缓解大模型推理结果存在错误的问题
优势亮点
  • 1.面向企业客户、打造统一管理平台:平台提供多用户权限管理功能,企业可以通过该平台集中管理用户账号、权限和角色,实现统一的身份认证和权限控制,确保信息的安全性和合规性
  • 2.知识集中管理、实现内部业务的数据共享流转:基于专门的向量数据库存储技术,支持向量检索、全文检索和混合检索,提供碎片化、多业务知识的集中管理,实现知识共享
  • 3.低门槛开发、无门槛使用:基于Agent智能体技术,搭建积木式应用开发框架,支持个性定制相关应用助手,实现低门槛快速开发;提供自然语言对话界面,支持多轮对话,用户无门槛体验使用
  • 4.基座模型强大、选择多样:平台提供模型切换功能,支持移动九天、Qwen-7B、Qwen-14B、ChatGLM-6B、Llama、GPT等基底大模型
资源下载
  • 灵悉AI智能问答助手_产品简介.pdf

下载技术认证书
  • Ascend Native认证证书.pdf

暂无评分
我要评分