算子代码热点图
通过msprof op或msprof op simulator生成的visualize_data.bin文件可通过MindStudio Insight进行可视化呈现。界面支持查看算子源码与指令集的映射关系、耗时情况等功能,可协助开发者识别热点代码分布,并分析热点函数优化的可行性。
- 若要使用MindStudio Insight进行查看时,需要单独安装MindStudio Insight软件包,具体下载链接请参见“安装与卸载”。
- 将visualize_data.bin文件导入MindStudio Insight的具体操作请参考导入性能数据。
- MindStudio Insight具体操作和详细字段解释请参考源码(Source)。
- 添加-g编译选项会在生成的二进制文件中附带调试信息,建议限制带有调试信息的用户程序的访问权限,确保只有授权人员可以访问该二进制文件。
- 算子程序编译时需要包含-g,否则msprof不会展示热点图,也不调用llvm-symbolizer组件的相关功能实现代码-PC映射。
- msprof op算子代码热点图功能不适用于
Atlas 推理系列产品 。 - MC2算子和LCCL算子均不支持生成算子代码热点图。
msprof op热点图
图1 msprof op源码界面
- 在界面顶部,可切换计算单元和核函数文件。
- 在左侧界面,提供算子核函数各行代码模拟L2Cache命中率、与GM有关的数据搬运量及对应的指令数,帮助开发者快速定位瓶颈代码行。
- 在右侧界面,提供具体的指令维度模拟L2Cache命中率、与GM有关的数据搬运量、执行次数及与代码相关联,帮助开发者进一步分析代码耗时长的原因。
- MindStudio Insight时间线和详情页面中L2Cache命中率的差异请参见表1。
查看与GM有关的数据搬运量(Process Bytes)时,不涉及GM单元的情况都显示为NA。
- msprof op具体特性支持情况请参见表2。
msprof op simulator热点图
图2 msprof op simulator源码界面
- 在界面顶部,可切换计算单元和核函数文件。
- 在左侧界面,提供算子核函数各行代码对应的耗时、寄存器使用情况、Vector计算类指令在UB Bank上读和写的冲突情况、Vector计算单元利用率、与GM有关的数据搬运量及对应的指令数,帮助开发者快速定位瓶颈代码行。
- 在右侧界面,提供具体的指令耗时、寄存器使用情况、与GM有关的数据搬运量、Vector计算类指令在UB Bank上读和写的冲突情况、Vector计算单元利用率、执行次数及与代码相关联,帮助开发者进一步分析代码耗时长的原因。
- msprof of simulator具体特性支持情况请参见表3。
|
列名 |
|
|
|
说明 |
|---|---|---|---|---|
|
源码 |
支持 |
支持 |
支持 |
- |
|
指令PC地址 |
支持 |
支持 |
支持 |
- |
|
PIPE |
支持 |
支持 |
支持 |
- |
|
耗时cycle |
支持 |
支持 |
支持 |
查看算子源码与指令的耗时情况。 |
|
执行指令数 |
支持 |
支持 |
支持 |
查看算子源码与指令的执行次数。 |
|
GPR Count |
支持 |
支持 |
支持 |
查看寄存器使用情况。 |
|
UB Bank读冲突 |
支持 |
支持 |
支持 |
- |
|
UB Bank写冲突 |
支持 |
支持 |
支持 |
- |
|
vec计算单元利用率百分比 |
支持 |
支持 |
支持 |
- |
|
Process Bytes |
支持 |
支持 |
不支持 |
查看与GM有关的数据搬运量。 |
父主题: 算子调优(msProf)