昇腾社区首页
中文
注册

Profiling性能数据采集

功能介绍

用户可以在图加载和图执行过程中,采集Profiling性能数据,用于性能分析。使用时有三种方式:

表1 Profiling性能数据采集方式

序号

采集方式

方式一(不推荐使用)

通过配置如下环境变量,采集Profiling性能数据:
  • PROFILING_MODE
  • PROFILING_OPTIONS

方式二

通过GEInitialize传入option参数:
  • ge.exec.profilingMode
  • ge.exec.profilingOptions

方式三

如果需要采集迭代轨迹数据,还需要通过GEInitialize传入option参数ge.exec.profilingOptions或通过环境变量PROFILING_OPTIONS传入。传入字段包括training_trace/bp_point/fp_point。

环境变量说明请参考环境变量参考

支持的芯片型号

昇腾710 AI处理器

昇腾910 AI处理器

通过方式三采集性能数据

该特性为全局特性,不是session级特性,使能后在所有session均配置生效。

建议的接口调用顺序为:

调用示例为:
  // 构造Graph,该步骤省略
  // ......

  // init ge
  std::map<std::string, std::string> ge_options = {{"ge.socVersion", "Ascend910"}, {"ge.graphRunMode", "1"}};
  ge::GEInitialize(ge_options);

  std::string profilerResultPath = "/home/test/prof";       //该路径需要提前创建
  uint32_t length = strlen("/home/test/prof");
  ret = ge::aclgrphProfInit(profilerResultPath.c_str(), length);     

  std::map<string, string> options = {{"a", "b"}, {"c", "d"}};
  uint32_t graphId = 0;

  ge::Session *session = new Session(options);
  ret = session->AddGraph(graphId, graph);

  uint32_t deviceid_list[1] = {0};
  uint32_t device_nums = 1;
  uint64_t data_type_config = ProfDataTypeConfig::kProfTaskTime | ProfDataTypeConfig::kProfAiCoreMetrics | ProfDataTypeConfig::kProfAicpu | ProfDataTypeConfig::kProfTrainingTrace | ProfDataTypeConfig::kProfHccl | ProfDataTypeConfig:: kProfL2cache;
  ProfAicoreEvents *aicore_events = NULL;
  ProfilingAicoreMetrics aicore_metrics = ProfilingAicoreMetrics::kAicoreArithmeticUtilization;  
  ge::aclgrphProfConfig *pro_config = ge::aclgrphProfCreateConfig(deviceid_list, device_nums, aicore_metrics, aicore_events, data_type_config);

  ge::aclgrphProfStart(pro_config);

  session->RunGraph(graphId, inputs_r, outputs_r);

  ge::aclgrphProfStop(pro_config);

  ge::aclgrphProfDestroyConfig(pro_config);

  ge::aclgrphProfFinalize();

  delete session;
  ge::GEFinalize();