当前HwHiAiUser用户存在的问题:
1.显卡不能共享,即使加上--privileged也不行,否者报下面错误
`npu-smi info DrvMngGetConsoleLogLevel failed. (g_conLogLevel=3)
dcmi model initialized failed, because the device is used. ret is -8020`
2.rerank和embedding模型权重大小很小,导致显卡资源浪费严重
希望能新增root用户镜像,由用户考虑安全问题选择不同的镜像
当前HwHiAiUser用户存在的问题:
1.显卡不能共享,即使加上--privileged也不行,否者报下面错误
`npu-smi info DrvMngGetConsoleLogLevel failed. (g_conLogLevel=3)
dcmi model initialized failed, because the device is used. ret is -8020`
2.rerank和embedding模型权重大小很小,导致显卡资源浪费严重
希望能新增root用户镜像,由用户考虑安全问题选择不同的镜像