---
title: vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案-官方技术文章-Atlas Community
description: 在基于vLLM-Ascend的推理系统中，为提升大模型推理效率，常采用Prefill-Decode（PD）分离架构，将计算密集型的Prefill阶段与解码阶段部署在不同节点上，实现资源解耦与弹性调度。在该架构下，需通过专用的负载均衡代理脚本协调请求分发与KV Cache的跨节点传输。  本文针对在vLLM-Ascend v0.17.0rc1版本中，使用Deepseek-V3.2-w8a8模型进行P
keywords: LLM,Ascend,PD,ConnectError,分离场景下代,理脚本配置错,误导致,问题排查与解
url: https://www.hiascend.com/developer/techArticles/20260724-1
section: (其他)
---

# vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案-官方技术文章-Atlas Community

URL: https://www.hiascend.com/developer/techArticles/20260724-1
描述: 在基于vLLM-Ascend的推理系统中，为提升大模型推理效率，常采用Prefill-Decode（PD）分离架构，将计算密集型的Prefill阶段与解码阶段部署在不同节点上，实现资源解耦与弹性调度。在该架构下，需通过专用的负载均衡代理脚本协调请求分发与KV Cache的跨节点传输。  本文针对在vLLM-Ascend v0.17.0rc1版本中，使用Deepseek-V3.2-w8a8模型进行P
关键词: LLM,Ascend,PD,ConnectError,分离场景下代,理脚本配置错,误导致,问题排查与解

官方技术文章 [了解详情](https://www.hiascend.com/zh/developer/techArticles)

vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案

vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案

昇腾部署

Released: 2026/07/24