- 环境
- cpu: Kunpeng-920
- os: Kylin Linux Advanced Server V10 (Halberd)
- 显卡: 310P3
- docker: 25.0.3
- 镜像: swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts
- 问题
- 进入镜像后, 下载了 modelscope download "Qwen/QwQ-32B" --local_dir "/home/models/qwq"
- 修改了 config.json 后, 使用 mindieservice_daemon 启动, 启动日志一直停留
- 查看显卡使用情况, 能看到进程
- 很久也没新变化. cpu, load 均无变化.
点赞
收藏
回复
分享
举报使用 ./mindieservice_daemon 启动后, 一直停留在 model_runner.quantize: None, model_runner.kv_quant_type: None, model_runner.fa_qua 
已解决
已解决我要发帖子
