制作MindSpeed-LLM训练镜像（PyTorch框架）

准备软件包

请按照表1所示，获取对应操作系统的软件包，并准备镜像所需的Dockerfile文件与脚本文件。

为了防止软件包在传递过程中或存储期间被恶意篡改，下载软件包时需下载对应的数字签名文件用于完整性验证。

在软件包下载之后，请参考《OpenPGP签名验证指南》，对从Support网站下载的软件包进行PGP数字签名校验。如果校验失败，请不要使用该软件包，先联系华为技术支持工程师解决。

使用软件包安装/升级之前，也需要按上述过程先验证软件包的数字签名，确保软件包未被篡改。

运营商客户请访问：https://support.huawei.com/carrier/digitalSignatureAction

企业客户请访问：https://support.huawei.com/enterprise/zh/tool/pgp-verify-TL1000000054

操作步骤

1. 参照表1，在宿主机上完成软件包的准备工作。
2. 编写如下Dockerfile。

   FROM ubuntu:20.04 
   WORKDIR /root 
   COPY . . 
     
   ARG PYTORCH_WHL=torch-2.1.0-cp38-cp38-manylinux_2_17_aarch64.manylinux2014_aarch64.whl 
   ARG PYTORCH_NPU_WHL=torch_npu-2.1.0.post10-cp38-cp38-manylinux_2_17_aarch64.manylinux2014_aarch64.whl 
   ARG APEX_WHL=apex-0.1+ascend-cp38-cp38-linux_aarch64.whl 
   ARG HOST_ASCEND_BASE=/usr/local/Ascend 
   ARG TOOLKIT_PATH=/usr/local/Ascend/toolkit/latest 
   ARG TOOLKIT=Ascend-cann-toolkit_8.1.RC1_linux-aarch64.run 
   ARG KERNEL=Ascend-cann-kernels-910b_8.1.RC1_linux-aarch64.run 
   ARG MINDX_ELASTIC_WHL=mindx_elastic-7.0.RC1-py3-none-linux_aarch64.whl 
   ARG MINDIO_TTP_WHL=mindio_ttp-1.0.0-py3-none-linux_aarch64.whl 
   ARG MINDSPEED=MindSpeed 
   ARG DLLOGGER=dllogger 
     
   RUN echo "nameserver 114.114.114.114" > /etc/resolv.conf 
     
   RUN echo "deb http://repo.huaweicloud.com/ubuntu-ports/ focal main restricted universe multiverse\n\ 
   deb http://repo.huaweicloud.com/ubuntu-ports/ focal-updates main restricted universe multiverse\n\ 
   deb http://repo.huaweicloud.com/ubuntu-ports/ focal-backports main restricted universe multiverse\n\ 
   deb http://ports.ubuntu.com/ubuntu-ports/ focal-security main restricted universe multiverse" > /etc/apt/sources.list 
     
   ARG DEBIAN_FRONTEND=noninteractive 
     
   # 系统包 
   RUN umask 0022 && apt update && \ 
       apt-get install -y --no-install-recommends \ 
           gcc g++ make cmake vim \ 
           zlib1g zlib1g-dev \ 
           openssl libsqlite3-dev libssl-dev \ 
           libffi-dev unzip pciutils \ 
           net-tools libblas-dev \ 
           gfortran libblas3 libopenblas-dev \ 
           python3.8 python3.8-dev \ 
           curl unzip liblapack3 liblapack-dev \ 
           libhdf5-dev libxml2 patch 
     
   # 时区 
   RUN ln -sf /usr/share/zoneinfo/UTC /etc/localtime 
     
   # 建立Python软链接 
   RUN ln -s /usr/bin/python3.8 /usr/bin/python 
   RUN ln -s /usr/bin/python3.8 /usr/bin/python3 
   RUN ln -s /usr/bin/python3.8-config /usr/bin/python-config 
   RUN ln -s /usr/bin/python3.8-config /usr/bin/python3-config 
     
   # 配置pip源 
   RUN mkdir -p ~/.pip \ 
   && echo '[global] \n\ 
   index-url=https://mirrors.huaweicloud.com/repository/pypi/simple\n\ 
   trusted-host=mirrors.huaweicloud.com' >> ~/.pip/pip.conf 
     
   # pip3.8 
   RUN cd /tmp && \ 
       apt-get download python3-distutils && \ 
       dpkg-deb -x python3-distutils_*.deb / && \ 
       rm python3-distutils_*.deb && \ 
       cd - && \ 
       python get-pip.py && \ 
       rm get-pip.py 
     
   # 安装torch、torch_npu、apex包 
   RUN umask 0022 && pip install $PYTORCH_WHL && \ 
   pip install $PYTORCH_NPU_WHL && \ 
   pip install $APEX_WHL 
       
   RUN umask 0022 && \ 
       pip install sympy==1.4 && \ 
       pip install cffi && \ 
       pip install pathlib2 && \ 
       pip install grpcio && \ 
       pip install grpcio-tools && \ 
       pip install torchvision==0.16.0 && \ 
       pip install absl-py && \ 
   pip install datasets && \ 
   pip install tokenizers==0.20.1 && \ 
   pip install pyOpenSSL 
     
   # 创建HwHiAiUser用户和属主，UID和GID请与物理机保持一致避免出现无属主文件。示例中会自动创建user和对应的group，UID和GID都为1000
   RUN useradd -d /home/HwHiAiUser -u 1000 -m -s /bin/bash HwHiAiUser 
     
   # Ascend包 
   # 构建之前把host的/usr/local/Ascend/driver/version.info拷贝一份到当前目录 
   RUN umask 0022 &&  \ 
       cp ascend_install.info /etc/ && \ 
       mkdir -p /usr/local/Ascend/driver/ && \ 
       cp version.info /usr/local/Ascend/driver/ && \ 
       chmod +x $TOOLKIT && \ 
       chmod +x $KERNEL 
     
   RUN umask 0022 && ./$TOOLKIT --install-path=/usr/local/Ascend/ --install --quiet 
   RUN echo "source /usr/local/Ascend/ascend-toolkit/set_env.sh" >> ~/.bashrc 
   RUN umask 0022 && ./$KERNEL --install --quiet 
     
   # 只为了安装toolkit包，所以需要清理，容器启动时通过Ascend Docker Runtime挂载进来 
   RUN rm -f version.info && rm -f ascend_install.info \ 
       rm -rf /usr/local/Ascend/driver/ 
     
   RUN umask 0022 && cd $MINDSPEED && \ 
       pip install -r requirements.txt && \ 
       pip install -e . && \ 
       echo "export PYTHONPATH=/root/MindSpeed:\$PYTHONPATH" >> ~/.bashrc 
     
   RUN umask 0022 && cd $DLLOGGER && \ 
       python setup.py build && \ 
       python setup.py install 
     
   # 导入环境变量 
   ENV HCCL_WHITELIST_DISABLE=1 
     
   # 创建/lib64/ld-linux-aarch64.so.1 
   RUN umask 0022 && \ 
       if [ ! -d "/lib64" ]; \ 
       then \ 
           mkdir /lib64 && ln -sf /lib/ld-linux-aarch64.so.1 /lib64/ld-linux-aarch64.so.1; \ 
       fi 
     
   # MindCluster断点续训适配脚本 
   RUN umask 0022 && \ 
       pip install $MINDX_ELASTIC_WHL && \ 
       pip install $MINDIO_TTP_WHL 
     
     
   # 可选，使用优雅容错、Pod级别重调度或进程级别重调度时必须配置以下命令
   RUN sed -i '/import logging/i import mindx_elastic.api' $(pip3 show torch | grep Location | awk -F ' ' '{print $2}')/torch/distributed/run.py
   
   # 增加安装任务调度依赖库 
   RUN pip install apscheduler 
     
   RUN rm -rf tmp && \ 
       rm -f $PYTORCH_WHL && \ 
       rm -f $PYTORCH_NPU_WHL && \ 
       rm -f $APEX_WHL && \ 
       rm -f $TOOLKIT && \ 
       rm -f $KERNEL && \ 
       rm -f $MINDX_ELASTIC_WHL && \ 
       rm -f $MINDIO_TTP_WHL && \ 
       rm -rf $DLLOGGER && \ 
       rm -rf Dockerfile 
   ## 最后打包成镜像mindspeed-dl:v1

3. 构建镜像。执行以下命令生成镜像。为了使Dockerfile更加安全，用户可以根据业务在其中定义HEALTHCHECK检查。通过在容器内部运行HEALTHCHECK [OPTIONS] CMD命令来检查容器的运行状况。注意不要遗漏命令结尾的“.”。

   docker build -t mindspeed-dl:v1 .