mindformers生成hccl json文件的时候报错
收藏回复举报
mindformers生成hccl json文件的时候报错
t('forum.solved') 已解决
发表于2024-04-11 17:35:32
0 查看
组件版本
mindspore2.1.1
CANN6.3.RC2_linux-aarch64
mindformersdev
硬件atlas 310I pro *2

用途,准备用这两张推理卡部署chatglm3,没有完整的教程,自己摸索,在基础组件安装完成后,准备生成hccl json文件的时候,执行

(ascend_py39) [root@xctest1 mindformers]# python ./mindformers/tools/hccl_tools.py --device_num "[0,8)" --server_ip=10.23.13.83
start /root/llm/mind/mindformers/./mindformers/tools/hccl_tools.py
visible_devices:['0', '1', '2', '3', '4', '5', '6', '7']
server_id:10.23.13.83
device_num_list: [0, 1, 2, 3, 4, 5, 6, 7]
/bin/sh: hccn_tool: command not found
Failed to call hccn_tool, try to read /etc/hccn.conf instead
Traceback (most recent call last):
  File "/root/llm/mind/mindformers/./mindformers/tools/hccl_tools.py", line 175, in <module>
    main()
  File "/root/llm/mind/mindformers/./mindformers/tools/hccl_tools.py", line 149, in main
    device_ip = device_ips[device_id]
KeyError: '0'

请教下大佬这是什么问题,本地显卡只有两张

npu-smi info

true

我要发帖子