昇腾社区首页
中文
注册

样例列表

表1 Sample列表

框架

特性

获取链接

PyTorch

基于精度的自动量化

单击auto_calibration获取样例,参见README执行相关操作。

均匀量化

单击calibration获取样例,参见README执行相关操作。

非均匀量化

单击calibration_nuq获取样例,参见README执行相关操作。

量化感知训练

单击retrain获取样例,参见README执行相关操作。

自动通道稀疏搜索

单击auto_channel_prune获取样例,参见README执行相关操作。

通道稀疏

单击channel_prune获取样例,参见README执行相关操作。

4选2结构化稀疏

单击selective_prune获取样例,参见README执行相关操作。

组合压缩

单击mix_compression获取样例,参见README执行相关操作。

张量分解

单击tensor_decompose获取样例,参见README执行相关操作。

单算子模式的量化感知训练

单击retrain_qat_op获取样例,参见README执行相关操作。

逐层蒸馏

单击distillation获取样例,参见README执行相关操作。

ADA自适应舍入量化

单击ada_round_calibration获取样例,参见README执行相关操作。

PyTorch

KV Cache量化

单击kv_cache_quantization获取样例,参见README执行相关操作。

ONNX

命令行方式量化

  • 使用命令行方式进行训练后量化
  • 使用命令行方式进行QAT模型适配CANN模型

单击cmd获取样例,参见README执行命令行方式量化。

基于精度的自动量化

单击accuracy_based_auto_calibration获取样例,参见README执行基于精度的自动量化。

均匀量化

单击calibration获取样例,参见README执行均匀量化。

非均匀量化

单击calibration_nuq获取样例,参见README执行非均匀量化。

QAT模型适配CANN模型

单击convert_qat2ascend获取样例,参见README将QAT模型转成CANN模型。

TensorFlow

命令行方式量化

  • 使用命令行方式进行训练后量化
  • 使用命令行方式进行QAT模型适配CANN模型

单击cmd获取样例,参见README执行相关操作。

基于精度的自动量化

单击auto_calibration获取样例,参见README执行相关操作。

均匀量化

单击calibration获取样例,参见README执行相关操作。

非均匀量化

单击calibration_nuq获取样例,参见README执行相关操作。

量化感知训练

单击retrain获取样例,参见README执行相关操作。

自动通道稀疏搜索

单击auto_channel_prune获取样例,参见README执行相关操作。

通道稀疏(手工稀疏)

单击channel_prune获取样例,参见README执行相关操作。

4选2结构化稀疏

单击selective_prune获取样例,参见README执行相关操作。

组合压缩

单击mix_compression获取样例,参见README执行相关操作。

张量分解

单击tensor_decompose获取样例,参见README执行相关操作。

convert_model接口模型适配

单击convert_model获取样例,参见README执行相关操作。

QAT模型适配CANN模型

单击convert_qat2ascend获取样例,参见README执行相关操作。

Caffe

命令行方式量化

单击cmd获取样例,参见README执行相关操作。

基于精度的自动量化

单击auto_calibration获取样例,参见README执行相关操作。

均匀量化

单击calibration获取样例,参见README执行相关操作。

非均匀量化

  • 自动非均匀量化:单击auto_calibration_nuq获取样例,参见README执行相关操作。
  • 静态非均匀量化:单击calibration_nuq获取样例,参见README执行相关操作。

量化感知训练

单击retrain获取样例,参见README执行相关操作。

张量分解

单击tensor_decompose获取样例,参见README执行相关操作。

模型适配

单击convert_model获取样例,参见README执行相关操作。

MindSpore

训练后量化

单击calibration获取样例,参见README执行相关操作。

量化感知训练

单击retrain获取样例,参见README执行相关操作。

TensorFlow,Ascend

mobilenetV2

分类网络模型训练后量化,单击amct_tensorflow_ascend,从“mobilenetv2”目录中获取样例,参见README执行相关操作。

yolov3

检测网络模型训练后量化,单击amct_tensorflow_ascend,从“yolov3”目录中获取样例,参见README执行相关操作。