华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
中文
注册
登录
开发者
主页
开发
文档
活动
学习
论坛
博客
开发者计划
更多
0
/100
下载
支持
积分兑换
NEW
开发者学习路径
企业级推理部署
企业级推理部署
3
课程
1
微认证
2
案例
2.5小时
2319
暂无评分
我要评分
MindIE推理引擎介绍,包括大模型推理解决方案全栈介绍,包括LLM、文生视图等场景。
开始学习
企业级推理部署中级
1
课程
企业级推理部署-中级
企业级推理部署-中级
vLLM-ascend推理部署与调优
2
课程
vLLM-ascend推理部署与调优
vLLM-ascend推理部署与调优
模型量化压缩
3
课程
模型量化压缩
模型量化压缩
ModelSlim量化工具使用
4
案例
昇腾大模型量化推理--ModelSlim量化工具使用
昇腾大模型量化推理--ModelSlim量化工具使用
记录一次小模型迁移性能调优实战
5
案例
记录一次小模型迁移性能调优实战
记录一次小模型迁移性能调优实战
微认证
vLLM-ascend推理部署与调优
本认证主要涉及vLLM-ascend推理部署与调优相关内容,通过认证,开发者将展示使用vLLM及vLLM-ascend进行推理部署与调优的能力。
完成路径
额外的成长积分
50积分
预备知识
模型推理开箱五步法
知识点
随着大模型的成本越来越低,以及企业生产中对大模型的定制化需求,越来越多的企业选择在本地部署大模型;这样既满足了数据安全性需求,同样也增加了企业定制化的选择。这里将介绍昇腾大模型推理部署的方式,欢迎学习。
帮助与反馈
昇腾论坛
在线提单反馈
帮助与反馈
昇腾论坛
在线提单反馈
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情