资源回收
物理机推理场景
使用者进行推理作业时,建议在编辑推理程序时,将样例代码、模型、视图数据和推理结果的目录指定本人创建的目录,以便完成推理作业后,将目录打包下载到PC,然后在服务器将本人创建的目录删除,清理环境给下一批使用者使用。
打包命令如下,将当前的“infer”目录打包成“archive.tar”文件。命令中的“infer”和“archive.tar”仅为示例,请根据实际情况自定义修改。
tar -cvf archive.tar infer
将打包的“archive.tar”文件下载保存至个人PC。
容器推理场景
如果是在容器运行推理作业,建议将本人创建的目录挂载到容器,完成作业并将目录打包下载到PC后,及时删除容器,清理服务器磁盘空间,避免容器过多导致系统盘占满。
删除容器和容器镜像命令如下:
docker rm -f 容器ID docker rmi 镜像ID
容器ID和镜像ID通过docker ps -a命令查看,类似如下回显,“e10f36fa9bb6”为容器ID,“5b88c529c334”镜像ID。
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES e10f36fa9bb6 5b88c529c334 "/bin/bash" 2 days ago Up 2 days infer_llama1-65b
父主题: 资源使用和回收