开发者
资源
[object Object][object Object]

本文档以Atlas 800I A2 推理服务器和Wan2.1模型为例,让开发者快速开始使用MindIE SD进行文生视频。

[object Object]

物理机部署场景,需要在物理机安装NPU驱动固件以及部署Docker,执行如下步骤判断是否已安装NPU驱动固件和部署Docker。

  • 执行以下命令查看NPU驱动固件是否安装。若出现类似下图打印内容,说明已安装。否则请参见进行安装。

    [object Object]

    图 1 回显信息[object Object][object Object]

    表 1 Atlas A2 推理系列产品[object Object][object Object]

    [object Object]undefined
  • 执行以下命令查看Docker是否已安装并启动。

    [object Object]

    回显以下信息表示Docker已安装并启动。

    [object Object]
[object Object]

请先下载模型权重,这里以Wan2.1模型为例。

模型权重详细信息如所示。请根据实际情况下载所需的文生视频或图生视频模型权重。用户需自行设置权重路径(例:/home/{用户名}/example/Wan2.1-T2V-14B)。

表 2 模型权重[object Object][object Object]

[object Object]undefined

MindIE SD接口会对传入的文件或文件夹做权限安全校验,因此模型权重文件、配置文件及其所在文件夹需进行权限配置,权限要求为:

  • 模型权重文件、配置文件:对应三组权限不得超过640且需要和执行用户的所属组和权限保持一致。
  • 模型权重文件和配置文件所在的文件夹:对应三组权限不得超过750且需要和执行用户的所属组和权限保持一致。
[object Object]

进入,根据设备型号选择下载对应的MindIE镜像。

该镜像已具备模型运行所需的基础环境,包括:CANN、FrameworkPTAdapter、MindIE与ATB Models,可实现模型快速上手推理。

表 3 容器内各组件安装路径

[object Object]undefined
[object Object]
  1. 下载完成镜像后,执行以下命令启动容器。

    [object Object]
    [object Object]

    表 4 参数说明

    [object Object]undefined
  2. 执行以下命令进入容器。

    [object Object]
    [object Object]
[object Object]

本章节通过一个简单的示例,介绍在Atlas 800I A2 推理服务器上,如何使用MindIE SD进行文生视频。

  1. 使用以下命令在任意路径(例如:/home/{用户名}/code)下载模型仓库。

    [object Object]
  2. 使用以下命令进入Wan2.1文件夹并安装所需依赖。

    [object Object]
  3. 进行模型推理。(请选择实际下载使用的模型)

    • Wan2.1-T2V-14B模型使用8卡推理

      [object Object]
    • Wan2.1-I2V-14B-480P模型使用8卡推理

      [object Object]
    • Wan2.1-I2V-14B-720P模型使用8卡推理

      [object Object]

    表 1 参数解释

    [object Object]undefined
[object Object]

单击Wan2.1的,查看README文档进行性能测试。