【求助】vllm DeepSeek-V3 PD分离部署方案, Proxy server 拉起报错
收藏回复举报
【求助】vllm DeepSeek-V3 PD分离部署方案, Proxy server 拉起报错
t('forum.solved') 已解决
新人帖
发表于2025-09-04 20:37:42
0 查看

基于指导 https://github.com/vllm-project/vllm-ascend/blob/v0.9.1-dev/examples/disaggregate_prefill_v1/README.md

 proxy server  报错:

cke_1302.png

环境信息:A3 单卡双芯。

本帖最后由 匿名用户2025/09/12 17:20:07 编辑

我要发帖子