上板Profiling数据采集

本场景以AddCustom算子为例,通过torch生成输入数据和标杆数据,Profiling数据采集和分析过程如下。请根据自身实际情况,按需修改示例代码。

import torch
import numpy as np
import ascendebug

# 设置和清理日志文件
ascendebug.set_log_file('test.log', clean=True)

# 1.生成输入/标杆数据
x = torch.rand(size=(1, 16384), dtype=torch.float16)
y = torch.rand(size=(1, 16384), dtype=torch.float16)
z = x + y

# 2.构建算子信
debug_op = ascendebug.create_debug_op('add_custom', 'VectorCore', '${chip_version}') \
        .scalar_input('tileNumIn', 'uint32', 10) \
        .tensor_input('x', x) \
        .tensor_input('y', y) \
        .tensor_output('z', z)

# 3.创建调试对象并初始化工作空间
install_pkg = "/home/run_pkg/"
op_executor = ascendebug.create_op_executor(install_path=install_pkg)

# 4.配置核函数源码信息
kernel_info = ascendebug.OpKernelInfo("/path_to/add_custom.cpp", 'add_custom', [])

# 5.调用NPU编译接口生成kernel.o文件
npu_option = ascendebug.CompileNpuOptions()
kernel_name, kernel_file, extern = op_executor.compile_call_kernel_npu(kernel_info, npu_option)
 
# 6.完成Profiling的Options配置,调用Profiling运行接口
profiling_options = ascendebug.RunProfilingOptions(block_num=32, loop=10)
npu_compile_info = ascendebug.NpuCompileInfo(syncall=extern['cross_core_sync'], task_ration=extern['task_ration'])
op_executor.run_profiling(kernel_file, profiling_options, npu_compile_info=npu_compile_info)

关于算子在NPU板端执行Profiling以及最终采集结果的分析可以参见“产物说明”。