DeepSeek V4发布后受到广泛关注，为了进一步简化部署流程，提升部署效率，我们开发了支持DeepSeek V4模型的LLM自动部署功能，用户在完成昇腾服务器OS安装和网络配置后，可以使用本工具快速完成DeepSeek-V4-Flash模型在昇腾Atlas 800I A2/A3服务器上的部署。

部署模型，只需三步！

以在OpenEuler_22.03LTS-SP4_aarch64操作系统的Atlas 800I A2服务器部署DeepSeek-V4-Flash-w8a8-mtp模型为例，具体参数值请以实际为准。

Step 1：驱动、镜像 & 模型一键下载

./vllm_download.sh --os OpenEuler_22.03LTS-SP4_aarch64 --model Eco-Tech/DeepSeek-V4-Flash-w8a8-mtp

这一条命令，自动帮你一键下载vLLM-Ascend镜像、NPU驱动与固件、操作系统依赖等软件包，以及DeepSeek-V4-Flash-w8a8-mtp的模型权重文件，你只需喝杯咖啡，它全包了。

Step 2：基础环境一键安装

./install_base_sw.sh

什么系统依赖、什么 NPU 驱动，不用你操心，一键自动装好。

注：如果你已经装了NPU驱动可跳过此步安装。

Step 3：模型服务一键启动

./install_llm.sh --model DeepSeek-V4-Flash-w8a8-mtp --port <YOUR_API_PORT> --api-key <YOUR_API_KEY>

基于 vLLM-Ascend 镜像构建容器、拉起大模型推理服务，一条命令直达可用。端口、API 密钥随心配，立即享受 DeepSeek-V4 的推理激情。

还等什么？赶快在你的昇腾服务器上跑起来，让 DeepSeek-V4-Flash 带你体验大模型推理的速度与激情！

想要了解更多模型的一键部署方式？欢迎访问我们的完整指南：vLLM Ascend部署脚本使用指南  。

说明：本文档提供的内容为参考实践，仅供用户参考使用，用户可参考文档构建自己的软件，按需进行安全、可靠性加固，但不建议直接将相关Demo或镜像文件直接集成到商用产品中。