明途科技深化昇腾原生开发合作,推出WorkBrain垂类模型
原生开发产业开发者生态伙伴
发表于 2024/07/19
原生开发产业开发者生态伙伴
发表于 2024/07/19
近日,明途WorkBrain模型基于昇腾AI基础软硬件平台以及昇思MindSpore全场景AI框架完成兼容性测试,并获得昇腾原生技术认证。
成都明途科技有限公司(以下简称“明途科技”)自2022年正式加入昇腾万里伙伴计划,明确基于昇腾AI基础软硬件平台在垂类模型领域进行创新开发。随后在成都昇腾人工智能生态创新中心的协助下,明途WorkBrain模型进行了软硬件调优测试,截止目前,明途科技已基于昇腾硬件底座和昇思MindSpore全场景AI框架,完成了WorkBrain原生大模型训练&微调,其模型算力密度提升8-10倍,训练性能提升1.9倍。此外,高性能预训练模型的扩展识别场景达69种以上,为政府、企业、文旅、教育、健康等行业应用提供了强大的支持。
开新引智,模力赋能
WorkBrain模型采用"认知-感知-决策"混合模型范式,自研架构模型参数量达到150亿,在高级逻辑推理、专业领域适应性、精准定制扩展、高效任务执行等方面发挥出更优的性能。同时,有效解决了渐进式训练过程中的知识遗忘问题。具有以下特点:
(1)小样本学习泛化突破:利用昇腾硬件底座、昇腾异构计算架构CANN和高性能算子执行能力,使WorkBrain模型的算力密度大幅提升,在小样本学习方面,WorkBrain 内容生成的语义准确率超过95%。通过少量样本训练,迅速适应新任务,输出高度连贯、语义丰富的工作内容。
(2)推理加速集成:通过昇腾MindIE推理引擎部署WorkBrain模型,在推理过程中实现了性能和效率的优化,能够在昇腾加速卡上实现高效训练和推理,针对INT8、INT4等低精度量化推理进行了专门优化,在节省75%内存开销的同时,实现了2-3倍的推理速度提升
(3)Agent智能体服务:利用MindSpeed 分布式加速套件的软硬协同优化,丰富了WorkBrain服务集成能力,将数字人能力与具体业务流程相结合,精准触达用户需求,全面提升用户体验。
日前,WorkBrain工作大脑及智能数字人终端用户突破500万,在国家电网、赛迪研究院、成都科创生态岛、四川广元文旅、自贡国际恐龙灯会等政府、园区、企业、广电等行业完成试点/落地,实现了全闭环智慧管理服务。
未来,明途科技将充分依托昇腾在人工智能领域积累的技术优势和软件工具,持续优化迭代大模型产品及行业解决方案,努力推进中国人工智能产业的发展。
明途科技作为工作AI数智服务商,也是第一批提出垂类大模型的技术厂商,通过垂类数字大脑模型、智能数字人产品、工作AI管理应用、行业大脑服务,形成从技术、产品、应用、服务的闭环管理,为政府、企业、文旅、教育、客服、健康等服务。明途WorkGPT大模型通过《生成式人工智能服务管理暂行办法》备案审批,明途工作内容生成合成算法通过国家备案。
上一篇
下一篇