本次“斑竹”(me)主要体验了ModelZoo的一些模型。首先,从ModelZoo的官方文档入手,阅读了相关教程,体验了悟空、chatGLM-6B,姿态估计大模型。下面分享一些我的体会:
- 阅读ModelZoo的文档。每一部分的教程都很清晰易懂,而且在每个教程结束部分还有参考信息这样的章节,列出了一些常见问题的解决方式,方便开发者快速上手。
- 悟空大模型。感觉很有趣,内置了很多种风格,而且每次生成的四张结果图片对应于不同的场景,像上面我生成了一直小猫一样,令我感到惊喜的是悟空大模型生成了一系列的这样的场景图,哈哈哈,简直体验感拉满!!!
- chatGLM-6B。从GPU和NPU二者训练的损失函数来看,基本一致,在chatGLM-6B中FP16训练时的损失函数有微小差异,但属于可控范围内,经过在NPU微调的超参数可以用来训练大模型,期待NPU适配更多的模型。
-
Swin-Transformer。其使用层级式的transformer和移动窗口将transformer应用到CV领域。其通过限制在窗口内使用自注意力,带来了更高的效率 ,通过移动,使得相邻两个窗口之间有了交互,上下层之间也就有了跨窗口连接,从而变相达到了一种全局建模的效果。
-
openpose人体姿态估计大模型。使用提供的两张图片推理,并上传了一些图片推理,其使用mobilenet作为backbone,推理结果还不错。
总结:昇腾大模型平台汇集了很多优势大模型,提供了完成的适配昇腾硬件的训练,验证,推理代码。
本次“斑竹”(me)主要体验了ModelZoo的一些模型。首先,从ModelZoo的官方文档入手,阅读了相关教程,体验了悟空、chatGLM-6B,姿态估计大模型。下面分享一些我的体会:
Swin-Transformer。其使用层级式的transformer和移动窗口将transformer应用到CV领域。其通过限制在窗口内使用自注意力,带来了更高的效率 ,通过移动,使得相邻两个窗口之间有了交互,上下层之间也就有了跨窗口连接,从而变相达到了一种全局建模的效果。
openpose人体姿态估计大模型。使用提供的两张图片推理,并上传了一些图片推理,其使用mobilenet作为backbone,推理结果还不错。
总结:昇腾大模型平台汇集了很多优势大模型,提供了完成的适配昇腾硬件的训练,验证,推理代码。