全诊昇腾医学大模型训推一体机助力数十家三甲医院“治”慧再升级
生态伙伴
发表于 2025/09/15
生态伙伴
发表于 2025/09/15
2025年伊始,在人工智能与医疗行业深度融合的背景下,特别在DeepSeek大模型的惊艳亮相和国家政策推动等多重利好催化下,医学大模型数量迎来爆发式增长。然而医院场景天然对产品能力、模型精度、数据安全等的需求,又对行业供给方提出了极高的要求。
针对医疗机构的高度垂直化需求,全诊医学与昇腾合作推出“全诊昇腾医学大模型训推一体机”,并迅速成为国内一批大型医院实现智能化转型的核心基础设施,在三甲医院上线的数量国内领先。该一体机集训练与推理于一体,支持从数据处理、模型开发到临床推理的全流程闭环,不仅保障了数据安全与合规性,更在多家医院的实际业务中展现出显著成效。
随着国家政策对医疗人工智能应用的推动,越来越多医院开始探索基于大语言模型的智能服务。一家典型的大型三甲医院年门诊量超百万人次,住院量数万人次,对智能化应用需求明确,至少包括诊前智能服务、AI预问诊、智能病历等场景,并需支持150多个诊间并发和800多名医生同时使用。医院的需求已转变为:需要一个具备全功能的智能医生助理,完整涵盖多模态输入、文本书写、辅助决策、病案质控以及医保编码等功能。
全诊昇腾医学大模型训推一体机,支持医院借助云服务或本地化部署等多种方式,将人工智能大模型服务落地应用。供给双方采用“硬件定制+软件适配+场景落地”的联合部署方案,充分发挥全诊昇腾训推一体机的专属优势,精准满足医院在“应用、模型、算力”等方面的核心需求:
在落地应用过程中,部分医院不仅希望上线全诊医学大模型,还提出了院内部署甚至院内大模型训练的需求。全诊医学基于昇腾AI软硬件平台的强大能力,在院内模型训练阶段,成功攻克了处理千万级乃至亿级医学文本数据的系列难点。
全诊昇腾医学大模型训推一体机的核心设计理念是实现“训练-推理-应用”一体化,在保障医院数据安全的前提下,最大限度提升模型迭代与推理效率。其支持8B至128B参数规模的大语言模型私有化部署,在FP16精度下训练与推理显存需求极高。以某院同时部署32B、70B和128B三个模型为例,总显存需求约460GB。而昇腾单台Atlas 800I A2一体机配置8块64GB显存的NPU,总显存达512GB,有效满足了模型并行训练与高并发推理需求。
全诊昇腾医学大模型训推一体机目前已在多家大型三甲医院落地使用。
北京某三甲医院联合全诊医学基于昇腾平台训练出的“广医·岐智”大模型,基于医患对话、“望闻问切”四诊信息以及舌诊、脉象等多模态数据,可在2至3秒内自动生成结构化病历,高峰并发处理达180例/小时且无排队现象。同时,模型能够提供辨证思路、方剂推荐、用药禁忌等辅助诊断建议,有效减轻医生文书负担,提升诊疗效率。
江苏某三甲医院联合全诊医学重点训练医患问答类数据,应用于门诊智能导诊与预问诊场景。基于昇腾平台训练出医院专属的“常医医学大模型”,将应用扩展至门诊、住院及手术记录的自动生成与实时质控,并逐步支持辅助诊断。目前,该平台已支撑3项省级自然基金课题,推动医院从临床应用向医工交叉研究延伸,实现“临床—科研—应用”闭环。
人工智能行业的发展已经进入落地期,简单应用基础大模型或仅进行基础SFT等微调,已无法满足医疗、会计、法律、工程等专业领域的需求。
全诊医学推出的全诊昇腾医学大模型训推一体机,以高性能、高安全性、全流程一体化等优势,已在数十家医院成功落地,展现出在智慧医疗建设中的重要作用。未来,昇腾将继续与全诊医学深度合作,推动更多医疗AI应用场景实现本地化部署与规模化应用,助力中国医疗行业迈向智能化、精准化、高效化的新阶段。
上一篇
下一篇