智赋重庆 | 云从科技携手昇腾AI助力企业打造专属行业大模型，实现5倍效率提升！

近日，云从科技“从容大模型训推一体机”在重庆人工智能创新中心的支持下，顺利完成孵化和部署，在WAIC2023昇腾人工智能产业高峰论坛正式发布，云从科技董事长周曦被授予“昇腾MVP”，在昇腾展区，数千名参观者热情体验“从容大模型训推一体机”，并给予高度评价。

在云从科技人工智能研究院、重庆人工智能创新中心技术团队、昇腾研发专家的共同努力下，“从容大模型训推一体机”在一个月内顺利完成精度与性能对齐、产品集成与测试等工作，成为重庆人工智能创新中心孵化的首个大模型解决方案。

 “从容大模型训推一体机”基于昇腾AI基础软硬件平台，包括昇腾AI服务器、异构计算架构CANN和全场景AI框架昇思MindSpore，同时兼容PyTorch，单机2.5 PFLOPS FP16算力，训练性能超8000 tokens/s，支持多机组网部署及企业私有化部署，满足数据不出厂的信息安全要求。

“从容大模型训推一体机”内置云从科技自主研发的从容大模型生产平台，助力企业打造专属行业大模型，实现5倍效率提升。

模型参数规格十亿、百亿、千亿可选，结合云从传统视觉优势，提供语言、视觉和多模态三类基础模型，利用企业私有的行业和场景化数据，进行SFT、RM和PPO等强化学习和模型精调，为基础模型注入专家知识和专家技术，使之在企业关注的领域内变得足够智能和精准，打造行业大模型，进而服务企业的业务场景，提升业务效率和产品竞争力。

在参数和loss曲线收敛对齐的条件下，基于昇腾AI和昇思MindSopre的模型训练性能是业界的1.6至1.7倍，且推理问答结果更为优质。

昇腾AI与产业界共同构建了从规划、开发到产业化的大模型全流程使能体系，共筑中国大模型生态，已孵化和适配了30多个主流大模型，我国近一半的原生大模型是基于昇腾AI基础软硬件平台打造，同时在遥感和多模态两个领域成立的产业联合体，已经吸引了80多家科研机构和企业加入，联合孵化出100多个行业新应用。展望未来，昇腾AI将努力做好基础软硬件平台，携手云从科技推进AI走深向实，在重庆探索一体机赋能城市特色产业，形成具有示范效应的应用案例，为各个行业提供更为全面的提升，帮助企业实现持续高质量发展。