功耗测试是通过运行单算子模型来检测整卡或芯片的功耗信息。
注意事项
- 功耗测试不支持在设备所在环境存在问题的场景下运行,例如高温、散热有问题的环境,否则会出现硬件设备掉卡、硬件设备故障等异常情况。
- 功耗测试不能用于温度测试,即试图测试硬件设备在不同温度下的散热情况,否则会出现硬件设备掉卡、硬件设备故障等异常情况。
测试项参数查询
用户可任选以下指令之一查看功耗测试命令的可用参数。
ascend-dmi -p -h
ascend-dmi -p --help
各参数解释如表1所示。
表1 参数说明
参数 |
说明 |
是否必填 |
[-p, --power] |
使用该参数进行整卡或芯片的功耗测试。 |
是 |
[-t, --type] |
指定算子运算类型,可以为fp16或int8,若未指定则默认为fp16。 |
否 |
[-dur, --dur, --duration] |
指运行时间,若不填写运行时间则默认为600。 单位为秒,取值范围为[60,604800]。 |
否 |
[-it, --it, --interval-times] |
指屏幕信息打印刷新的间隔时间,若不填写间隔时间则默认为5。 单位为秒,取值范围为[1, 5]。 |
否 |
[-pm, --pm, --print-mode] |
屏幕输出的打印模式,若不填写打印模式则默认为refresh。 打印模式: ● refresh:每次打印清除历史打印信息。 ● history:打印保存历史信息。 |
否 |
- 功耗数据是按周期采集,且前后两次采集之间存在时间间隔,因此小概率会出现未采集到实际功耗数据进而导致显示值偏低的情况。
- 功耗测试有启动时间和退出时间,因此第一次和最后一次的回显信息会存在误差,属于正常现象。
- 为保证返回检测结果的正确性和准确性,功耗测试需要单独执行。
- 从运行成本考虑,功耗测试打印次数不一定与理论值相同。以功耗工具运行时间为60s,信息打印刷新的间隔为5s为例,理论上打印次数应为12次,实际次数会低于这个数值。
- ascend-dmi -p后使用--dur,--it等多个二级参数时,可任意指定这些参数的排列顺序,不影响命令结果输出。例如:ascend-dmi -p --dur 60 --it 5 --pm refresh和ascend-dmi -p --it 5 --dur 60 --pm refresh输出结果相同。
使用实例
以执行时间为60s,信息的打印间隔信息为5s,屏幕的输出模式为清除历史记录为例。
ascend-dmi -p --dur 60 --it 5 --pm refresh
若推理服务器返回如图1所示信息(此处以Ascend 310P芯片为例),表示工具运行正常,图中参数介绍如表2所示。
图1 功耗测试示例(推理服务器)
显示界面参数说明如表2。
表2 显示界面参数说明
参数 |
说明 |
产品形态 |
Type |
标卡型号 |
标卡 |
Card |
卡ID号 |
Chip |
芯片编号 |
Name |
芯片名称 |
Type |
芯片型号 |
训练服务器 |
Chip Name |
芯片名称 |
NPU Count |
NPU的个数 |
标卡、训练服务器 |
Power |
当前整卡或芯片的实际功耗 |
Health |
芯片健康程度 |
Temperature |
芯片当前温度 |
Device ID |
芯片设备号 |
AI CoreUsage |
芯片AI Core的使用率 |
Voltage |
芯片当前电压 |