MindIE在300I Duo上profile DeepSeek-R1-Distill-Qwen-32B模型失败
收藏回复举报
MindIE在300I Duo上profile DeepSeek-R1-Distill-Qwen-32B模型失败
t('forum.solved') 已解决
新人帖
发表于2025-04-15 20:35:34
0 查看

两卡在310P上跑profile,不管是采用dynamic模式以及attach模式都失败

1. dynamic模式:

msprof --dynamic=on --output=/home/s_xieyu/workspace/DeepSeek-R1-Distill-Qwen-32B_mindie_profiling_output --model-execution=on --runtime-api=on --aicpu=on ./mindieservice_daemon

cke_3630.jpeg

当服务拉起后无法输入start end等命令进行profile

2. attach模式:

export PROFILING_MODE=dynamic
msprof --dynamic=on --pid=1495264 --output=/workspace/DeepSeek-R1-Distill-Qwen-32B_mindie_profiling_output --model-execution=on --runtime-api=on --aicpu=on

也失败

cke_21412.png

我要发帖子