华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
请问有没有在310p物理机上部署qwen3等大模型的方法参考?目前网上能找到的绝大部分文档都是基于docker镜像作为基础环境搭建,但在我需要的场景中不适配。
我之前仿照https://docs.vllm.ai/projects/ascend/en/latest/tutorials/310p.html,尝试了使用vllm0.10.0+vllm-ascend0.10.0rc1的物理机部署方案,但是遇到了非常多的版本适配相关BUG。
本帖最后由 匿名用户 于 2026/01/25 02:30:45 编辑
我要发帖子
请问有没有在310p物理机上部署qwen3等大模型的方法参考?目前网上能找到的绝大部分文档都是基于docker镜像作为基础环境搭建,但在我需要的场景中不适配。
我之前仿照https://docs.vllm.ai/projects/ascend/en/latest/tutorials/310p.html,尝试了使用vllm0.10.0+vllm-ascend0.10.0rc1的物理机部署方案,但是遇到了非常多的版本适配相关BUG。