请问有没有在310p物理机上部署qwen3等大模型的方法参考
收藏回复举报
请问有没有在310p物理机上部署qwen3等大模型的方法参考
t('forum.solved') 已解决
新人帖
发表于2026-01-25 02:28:57
0 查看

请问有没有在310p物理机上部署qwen3等大模型的方法参考?目前网上能找到的绝大部分文档都是基于docker镜像作为基础环境搭建,但在我需要的场景中不适配。

我之前仿照https://docs.vllm.ai/projects/ascend/en/latest/tutorials/310p.html,尝试了使用vllm0.10.0+vllm-ascend0.10.0rc1的物理机部署方案,但是遇到了非常多的版本适配相关BUG。

本帖最后由 匿名用户2026/01/25 02:30:45 编辑

我要发帖子