点亮西北AI创新版图丨2025昇腾金种子全国行·西安站顺利举办
开发者生态伙伴
发表于 2025/08/26
开发者生态伙伴
发表于 2025/08/26
7月14日,2025昇腾金种子全国行·西安站活动顺利举行,作为全国首场举办的昇腾金种子全国行,到场参训人数达100余名,现场气氛热烈高涨。本次活动由华为技术有限公司主办,陕西昇腾人工智能生态创新中心与西安昇腾智能科技有限公司承办,西安软件园发展中心、西安市人工智能产业发展联盟、成都银行西安分行共同协办。此次昇腾金种子全国行面向广大的昇腾生态合作伙伴开发工程师,以实操赋能为核心导向,带领各位开发者学员完成对昇腾AI基础软硬件平台从“认识”到“掌握”的全流程实训,旨在推动昇腾生态技术与产业应用深度融合。


陕西昇腾人工智能创新发展中心CTO张晓龙为各位开发者带来精彩分享,深入讲解昇腾大规模专家并行(大EP)方案及部署经验。张晓龙老师介绍,在规模部署的大并发、低时延场景下,大规模专家并行方案更加行之有效。他围绕高性能、高可靠、高易用三大特点,展示了昇腾大EP方案集群推理的极致体验。同时,向伙伴开发者们分享了大EP集群推理解决方案的软件架构,从Prefill节点部署(2P)、Decode节点部署(1D)、Prefill和Decode部署卡数配比以及A2服务器台数配置全面分享了昇腾A2大EP的部署经验,帮助开发者们对昇腾大EP推理方案建立起全面且深入的理解,为高效完成大模型部署提供新思路。

陕西昇腾人工智能创新发展中心FAE杨振辉围绕大模型微调技术展开讲解,针对LLM模型训练的基本流程,从阶段、数据、算法到模型进行了全面阐述,并围绕领域适应性、数据稀缺性、成本效益等方面介绍了大模型微调的优势所在。同时,通过维度对比,帮助学员们理解指令微调、领域特定微调、全参微调与参数高效微调的含义及特点。此外,着重介绍了基于MindSpeed LLM大模型的迁移流程,从环境搭建、权重转换、数据集处理到大模型预训练、微调、推理流程层层深入。最后,杨振辉老师还向学员们介绍了ChatGLM3-6B微调训练流程,为伙伴开发者们在实际场景中实现技术落地提供理论指导。
为进一步巩固学习成果,帮助开发者们将所学理论知识转化为实际技能,本次昇腾金种子全国行提供了实操演练环节。

陕西昇腾人工智能创新发展中心FAE魏鹏飞指导伙伴开发者基于MindSpeed LLM进行“Qwen-14B自我认知场景全参微调”实训,针对数据预处理、权重转换、在线推理等关键环节,结合实际开发场景中的经典案例,展开细致讲解。在专业指导和详细流程说明下,伙伴开发者们成功完成Huggingface格式到Megatron格式的权重转换,并顺利启动模型微调与在线推理。通过本次实践,开发者们对昇腾底层软件安装到大模型训练微调有了更深层次的理解,基于昇腾AI基础软硬件的开发能力得到切实提升。
本次活动现场气氛十分活跃,伙伴开发者们纷纷表示,实训不仅课程内容设置贴近实际工作场景,还通过实践操作帮助他们深入体会理论知识的灵活运用,让学习成果能够真正应用到岗位需求中。

昇腾AI金种子全国行(西安站)的成功举办,通过深入浅出的理论讲解和沉浸式实操演练,切实提升了本地昇腾生态合作伙伴开发者对昇腾AI开发工具的应用效能。未来,昇腾AI将继续秉持打造开放生态的理念,让昇腾金种子全国行走入更多城市,为广大伙伴开发者搭建起开放共享的技术交流实践平台,为昇腾AI的繁荣生态注入鲜活动力。
上一篇
下一篇