生态共荣,携手共赴AI新征程 :华为全联接大会2025 “开源使能AI创新”公开演讲专场精彩回顾
产业
发表于 2025/09/22
产业
发表于 2025/09/22
2025年9月18日,万众瞩目的华为全联接大会2025在上海拉开序幕,以“开源使能AI创新”为主题的公开演讲,吸引了全场的关注。此次公开演讲汇聚了三方开源社区SGLang杰出贡献者、vLLM杰出贡献者、企业高层、高校教授、开源社区负责人、优秀开发者,在持续1.5小时的演讲现场,领域专家分享基于昇腾加速AI模型落地实践,与开发者一起探讨最前沿的AI领域热点和发展趋势,共同推动技术的发展和应用,实现开发者生态繁荣!
NO.1 SGLang on Ascend大模型推理优秀实践

SGLang社区贡献者薛曜作为代表分享了SGLang on Ascend大模型推理优秀实践。SGLang现已实现 0 模型修改、插件化接入与默认高性能,已适配 DeepSeek 系列、Qwen 系列、Kimi K2 等主流模型。通过昇腾算子库、ACLGraph图模式等优化、MTP 等关键特性,实现LLM主流模型100%支持。目前相关集成代码已合入SGLang原生社区,用户可通过官方仓库与文档获取使用,为大模型推理提供高效解决方案。
NO.2 vLLM-Ascend典型推理加速技术介绍

来自vLLM社区贡献者韩俊作了题为“vLLM-Ascend典型推理加速技术介绍”的技术分享,深度解析 vLLM-Ascend 典型推理加速技术。分享围绕 vLLM 插件化机制及特性、推理优化整体思路、典型技术优化点展开,为听众详细介绍了当前vLLM-ascend插件化接入vLLM社区的方式,分享了包括算子、框架、软硬件协同优化等关键推理技术,并吸引互联网、运营商、金融等业界伙伴深度参与、贡献特性,为大模型推理加速提供有力支撑。
NO.3 赤兔推理引擎昇腾算力高效推理新范式

使用昇腾算力进行大模型推理服务,推理引擎和底层算子的协同设计是重要的优化途径。清程极智CEO汤雄超从“0天适配新模型”、“2倍吞吐提升”、“4比特量化”、“1000卡集群并行”等几个方面介绍了面向昇腾算力深度优化的「赤兔Chitu」推理引擎。赤兔是清程极智和清华大学团队联合开源的大模型推理引擎,通过混合并行策略、分类KVCache管理、超长向量指令等创新优化技术,实现了昇腾亲和的大模型推理解决方案。据介绍,赤兔目前已在一体机场景取得优异性能表现,并将在近期发布面向算力超节点的全新版本,进一步助力昇腾算力服务人工智能行业,为企业和开发者提供更加高效、可靠的 AI 解决方案。
NO.4 潞晨科技强化学习Colossal-RL的昇腾实践,场景以及案例分享

北京潞晨科技有限公司生态总监杜思超分享了昇腾原生的强化学习解决方案Colossal-RL的实践与创新, Colossal-RL采用训推分离架构和Producer-Consumer模式,支持灵活配置资源,在Qwen等模型训练中性能优异,相比主流框架展现出更高吞吐与更低延迟。也提到了强化学习RL的优势:1)通过与环境交互和结果反馈学习,突破人类数据瓶颈,能自主发现最优策略,生成超长思维链; 2)GRPO算法等RL算法让模型学会“技能”,而非仅模仿知识;3)通过案例证明了,企业通过强化学习训练/微调一些小模型,能够在企业大量垂类场景的Agent智能体应用上,性能和准确率超越大尺寸的通用大模型,并且大幅节约模型推理的成本。
NO.5 基于人工智能的超长效GLP-1多肽药物设计

上海交通大学陈海峰教授介绍了全新蛋白质骨架设计方法GPDL,相比RFdiffusion 在24个设计任务上,设计成功率高8%,骨架多样性高33%,研发了全新蛋白质序列设计方法GPD,相比ProteinMPNN,多样性提高2.2倍,运行速度提高1.6倍,研发了蛋白质的动态结构预测方法IDPFold,开发了人工智能蛋白质设计平台TransProtein,昇腾原生支持上述算法,基于上述算法,课题组成功设计了超长效的GLP-1多肽药物。
NO.6 开源重塑世界,魔乐携手开发者繁荣AI生态

魔乐社区负责人李宝龙介绍了魔乐社区是一个中立、公益的开源人工智能社区,分享了如何利用昇腾生态资源打造开源协作新范式,降低开发者使用国产算力的门槛,为AI爱好者和开发者提供交流学习的平台,加速技术创新。最后指出魔乐社区将以坚定姿态践行开源精神,在开源的路上与开发者共同奔赴新征程。
NO.7 GitCode 平台实践与价值分享

GitCode深圳分公司总经理,华为开发者专家(HDE)、华为云开发者专家(HCDE)徐建国分享GitCode平台在支持AI开源项目发展、促进开发者协作方面的实践经验,探讨开源社区如何加速AI技术创新与产业落地,并介绍GitCode如何助力开发者更好利用昇腾生态资源进行开源创新。
此次公开演讲不仅是技术模式的思想碰撞,而是为 AI 创新注入澎湃动能的 “生态基石”,既汇聚了知名开源社区的实践经验,也有国内企业基于昇腾实现突破技术瓶颈的成功案例。未来,无论是持续深耕开源技术研发,还是积极参与开源生态建设,亦或是推动开源成果落地应用,都能以开源为帆、以创新为桨,在 AI 发展的新征程上,共筑更开放、更协作、更具活力的创新生态!
上一篇
下一篇