华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
中文
注册
登录
开发者
主页
开发
文档
活动
学习
论坛
博客
开发者计划
更多
0
/100
下载
支持
积分兑换
NEW
开发者学习路径
企业级推理部署
企业级推理部署
1
课程
1
微认证
2.5小时
2172
暂无评分
我要评分
MindIE推理引擎介绍,包括大模型推理解决方案全栈介绍,包括LLM、文生视图等场景。
开始学习
vLLM-ascend推理部署与调优
1
课程
vLLM-ascend推理部署与调优
vLLM-ascend推理部署与调优
微认证
vLLM-ascend推理部署与调优
本认证主要涉及vLLM-ascend推理部署与调优相关内容,通过认证,开发者将展示使用vLLM及vLLM-ascend进行推理部署与调优的能力。
完成路径
额外的成长积分
50积分
预备知识
模型推理开箱五步法
知识点
随着大模型的成本越来越低,以及企业生产中对大模型的定制化需求,越来越多的企业选择在本地部署大模型;这样既满足了数据安全性需求,同样也增加了企业定制化的选择。这里将介绍昇腾大模型推理部署的方式,欢迎学习。
帮助与反馈
昇腾论坛
在线提单反馈
帮助与反馈
昇腾论坛
在线提单反馈
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情