AMCT（PyTorch）
本章节以Ubuntu 20.04为例，详述安装前准备，AMCT（PyTorch）支持在NPU、CPU两种处理器中执行压缩，版本配套信息如下：
类别 |
版本限制 |
获取方式 |
注意事项 |
|---|---|---|---|
操作系统及版本 |
Ubuntu 20.04 x86_64 |
请从Ubuntu官网下载对应版本软件进行安装，安装完成后查询命令为： cat /etc/*release && uname -m |
|
操作系统及版本 |
Ubuntu 20.04 aarch64 |
请从Ubuntu官网下载对应版本软件进行安装，安装完成后查询命令为： cat /etc/*release && uname -m |
|
PyTorch |
2.7.1、2.1.0、1.10.0、1.8.0、1.5.0、1.4.0
|
用户根据实际情况选择安装CPU或GPU，请参见安装依赖。 |
|
NPU 环境 |
如果使用NPU执行量化功能，则驱动固件和CANN软件包必须安装。 |
||
TorchNPU |
- |
|
|
ONNX |
1.18.0、1.16.1、1.14.0、1.9.0、1.8.0 |
请参见安装依赖。 |
|
ONNX Runtime |
1.20.0、1.16.0、1.8.0、1.6.0 |
||
Python |
Python3.12/3.13、Python3.11.x、Python3.10.x、Python3.9.x、Python3.8.x、Python3.7.x |
Ubuntu操作系统请参见安装Python3.9.2（Ubuntu）。 EulerOS操作系统请参见安装Python3.9.2（EulerOS ）。 |
|
numpy |
|
请参见安装依赖。 |
|
protobuf |
|
||
pyyaml |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
transformers |
5.5.4 |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
loguru |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
accelerate |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
compressed_tensors |
0.15.0.1 |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
scipy |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
torchao |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
einops |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
sentencepiece |
- |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
datasets |
4.8.4 |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |
zstandard |
0.25.0 |
- |
只有执行基于LLM的量化特性，才需要安装该依赖 |