昇腾社区首页
中文
注册

create_prune_retrain_model

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

  • 通道稀疏:√
  • 4选2结构化稀疏接口:√

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

  • 通道稀疏:√
  • 4选2结构化稀疏接口:√

Atlas 200I/500 A2 推理产品

  • 通道稀疏:√
  • 4选2结构化稀疏接口:√

Atlas 推理系列产品

  • 通道稀疏:√
  • 4选2结构化稀疏接口:x

Atlas 训练系列产品

  • 通道稀疏:√
  • 4选2结构化稀疏接口:x

注:上述4选2结构化稀疏特性,标记“x”的产品,调用接口不会报错,但是获取不到性能收益。

功能说明

通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能使能一个。

  • 通道稀疏场景:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入通道稀疏mask算子,达到推理时伪稀疏的效果。
  • 4选2结构化稀疏:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入4选2结构化稀疏算子,达到推理时伪稀疏的效果。

函数原型

1
create_prune_retrain_model(graph, outputs, record_file, config_defination)

参数说明

参数名

输入/输出

说明

graph

输入

含义:用户传入的待稀疏模型的tf.Graph图。

数据类型:tf.Graph

outputs

输入

含义:用户模型的输出。

数据类型:list,列表中元素类型为string,例如[output1,output2,...]。

record_file

输入

含义:记录稀疏信息的文件路径及名称,记录通道稀疏结点间的级联关系或记录4选2稀疏的节点。

数据类型:string

config_defination

输入

含义:用户提供的稀疏配置文件,用于指定模型tf.Graph图中各层稀疏配置情况。

基于retrain_config_tf.proto文件生成的简易配置文件prune.cfg,*.proto文件所在路径为:AMCT安装目录/amct_tensorflow/proto/。

*.proto文件参数解释以及生成的prune.cfg稀疏配置文件样例请参见量化感知训练简易配置文件

数据类型:string

返回值说明

调用示例

1
amct.create_prune_retrain_model(graph, [operation_name_1, operation_name_2], './tmp/record.txt', './tmp/sample_prune.cfg')