框架 |
特性 |
获取链接 |
---|---|---|
PyTorch |
基于精度的自动量化 |
单击auto_calibration获取样例,参见README执行相关操作。 |
均匀量化 |
单击calibration获取样例,参见README执行相关操作。 |
|
非均匀量化 |
单击calibration_nuq获取样例,参见README执行相关操作。 |
|
量化感知训练 |
单击retrain获取样例,参见README执行相关操作。 |
|
自动通道稀疏搜索 |
单击auto_channel_prune获取样例,参见README执行相关操作。 |
|
通道稀疏 |
单击channel_prune获取样例,参见README执行相关操作。 |
|
4选2结构化稀疏 |
单击selective_prune获取样例,参见README执行相关操作。 |
|
组合压缩 |
单击mix_compression获取样例,参见README执行相关操作。 |
|
张量分解 |
单击tensor_decompose获取样例,参见README执行相关操作。 |
|
单算子模式的量化感知训练 |
单击retrain_qat_op获取样例,参见README执行相关操作。 |
|
逐层蒸馏 |
单击distillation获取样例,参见README执行相关操作。 |
|
ADA自适应舍入量化 |
单击ada_round_calibration获取样例,参见README执行相关操作。 |
|
PyTorch |
KV Cache量化 |
单击kv_cache_quantization获取样例,参见README执行相关操作。 |
ONNX |
命令行方式量化
|
单击cmd获取样例,参见README执行命令行方式量化。 |
基于精度的自动量化 |
单击accuracy_based_auto_calibration获取样例,参见README执行基于精度的自动量化。 |
|
均匀量化 |
单击calibration获取样例,参见README执行均匀量化。 |
|
非均匀量化 |
单击calibration_nuq获取样例,参见README执行非均匀量化。 |
|
QAT模型适配CANN模型 |
单击convert_qat2ascend获取样例,参见README将QAT模型转成CANN模型。 |
|
TensorFlow |
命令行方式量化
|
单击cmd获取样例,参见README执行相关操作。 |
基于精度的自动量化 |
单击auto_calibration获取样例,参见README执行相关操作。 |
|
均匀量化 |
单击calibration获取样例,参见README执行相关操作。 |
|
非均匀量化 |
单击calibration_nuq获取样例,参见README执行相关操作。 |
|
量化感知训练 |
单击retrain获取样例,参见README执行相关操作。 |
|
自动通道稀疏搜索 |
单击auto_channel_prune获取样例,参见README执行相关操作。 |
|
通道稀疏(手工稀疏) |
单击channel_prune获取样例,参见README执行相关操作。 |
|
4选2结构化稀疏 |
单击selective_prune获取样例,参见README执行相关操作。 |
|
组合压缩 |
单击mix_compression获取样例,参见README执行相关操作。 |
|
张量分解 |
单击tensor_decompose获取样例,参见README执行相关操作。 |
|
convert_model接口模型适配 |
单击convert_model获取样例,参见README执行相关操作。 |
|
QAT模型适配CANN模型 |
单击convert_qat2ascend获取样例,参见README执行相关操作。 |
|
Caffe |
命令行方式量化 |
单击cmd获取样例,参见README执行相关操作。 |
基于精度的自动量化 |
单击auto_calibration获取样例,参见README执行相关操作。 |
|
均匀量化 |
单击calibration获取样例,参见README执行相关操作。 |
|
非均匀量化 |
|
|
量化感知训练 |
单击retrain获取样例,参见README执行相关操作。 |
|
张量分解 |
单击tensor_decompose获取样例,参见README执行相关操作。 |
|
模型适配 |
单击convert_model获取样例,参见README执行相关操作。 |
|
MindSpore |
训练后量化 |
单击calibration获取样例,参见README执行相关操作。 |
量化感知训练 |
单击retrain获取样例,参见README执行相关操作。 |
|
TensorFlow,Ascend |
mobilenetV2 |
分类网络模型训练后量化,单击amct_tensorflow_ascend,从“mobilenetv2”目录中获取样例,参见README执行相关操作。 |
yolov3 |
检测网络模型训练后量化,单击amct_tensorflow_ascend,从“yolov3”目录中获取样例,参见README执行相关操作。 |