开发工具
性能调优工具
- 性能调优工具的服务化调优工具支持Trace数据监控功能,提供基于OpenTelemetry Protocol(OTLP)协议的Trace数据转发服务,该服务用于接收、处理和转发分布式Trace数据,帮助用户监控和分析微服务架构的性能表现。
- aclgraph capture场景下msprof或MSPTI工具采集的性能数据中Stream ID的最大值从2K扩容到32K,解决了无法采集Stream流ID超过2K时的性能数据。
- msprof支持在aclgraph场景下采集并呈现ACLNN算子的Tensor信息(包含Shapes、Data Types、Formats)。
算子开发工具
- 为优化算子L2Cache利用率,msopprof工具支持分析算子L2Cache Evict事件发生的次数,辅助算子极致性能调优。
- msdebug支持调试coreDump文件,回溯异常代码行;支撑算子发生AIC ERROR时分析异常代码调用栈。
AMCT模型压缩工具
AMCT新增quantize、convert和algorithm_register接口,方便用户接入自定义量化算法。
ATC离线模型编译工具
支持离线编译时的自动融合功能,通过配置 --input_hint_shape 参数,可在编译过程中启动自动融合符号化推导功能,提升模型性能。
父主题: 新增特性