本文档以Atlas 800I A2 推理服务器和Wan2.1模型为例,让开发者快速开始使用MindIE SD进行文生视频。
物理机部署场景,需要在物理机安装NPU驱动固件以及部署Docker,执行如下步骤判断是否已安装NPU驱动固件和部署Docker。
执行以下命令查看NPU驱动固件是否安装。若出现类似下图打印内容,说明已安装。否则请参见进行安装。
[object Object]图 1 回显信息[object Object][object Object]
表 1 Atlas A2 推理系列产品[object Object][object Object]
[object Object]undefined
执行以下命令查看Docker是否已安装并启动。
[object Object]回显以下信息表示Docker已安装并启动。
[object Object]
请先下载模型权重,这里以Wan2.1模型为例。
模型权重详细信息如所示。请根据实际情况下载所需的文生视频或图生视频模型权重。用户需自行设置权重路径(例:/home/{用户名}/example/Wan2.1-T2V-14B)。
表 2 模型权重[object Object][object Object]
MindIE SD接口会对传入的文件或文件夹做权限安全校验,因此模型权重文件、配置文件及其所在文件夹需进行权限配置,权限要求为:
- 模型权重文件、配置文件:对应三组权限不得超过640且需要和执行用户的所属组和权限保持一致。
- 模型权重文件和配置文件所在的文件夹:对应三组权限不得超过750且需要和执行用户的所属组和权限保持一致。
该镜像已具备模型运行所需的基础环境,包括:CANN、FrameworkPTAdapter、MindIE与ATB Models,可实现模型快速上手推理。
表 3 容器内各组件安装路径
下载完成镜像后,执行以下命令启动容器。
[object Object][object Object]
表 4 参数说明
[object Object]undefined
执行以下命令进入容器。
[object Object][object Object]
本章节通过一个简单的示例,介绍在Atlas 800I A2 推理服务器上,如何使用MindIE SD进行文生视频。
使用以下命令在任意路径(例如:/home/{用户名}/code)下载模型仓库。
[object Object]使用以下命令进入Wan2.1文件夹并安装所需依赖。
[object Object]进行模型推理。(请选择实际下载使用的模型)
Wan2.1-T2V-14B模型使用8卡推理
[object Object]Wan2.1-I2V-14B-480P模型使用8卡推理
[object Object]Wan2.1-I2V-14B-720P模型使用8卡推理
[object Object]
表 1 参数解释
[object Object]undefined