昇腾社区首页
中文
注册
开发者
下载
企业级推理部署
企业级推理部署
1
课程
1
微认证
2.5小时
2172
暂无评分
我要评分
MindIE推理引擎介绍,包括大模型推理解决方案全栈介绍,包括LLM、文生视图等场景。
开始学习
vLLM-ascend推理部署与调优
1
完成路径
额外的成长积分
50积分
知识点
随着大模型的成本越来越低,以及企业生产中对大模型的定制化需求,越来越多的企业选择在本地部署大模型;这样既满足了数据安全性需求,同样也增加了企业定制化的选择。这里将介绍昇腾大模型推理部署的方式,欢迎学习。
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情