产品支持情况
产品
|
是否支持
|
|---|
Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件
|
x
|
Atlas 200I/500 A2 推理产品
|
√
|
Atlas 推理系列产品
|
√
|
Atlas 训练系列产品
|
√
|
功能说明
调用该接口之后，AMCT执行权重量化的时候，会使用GPU进行加速。
约束说明
- 用户有GPU环境，且支持CUDA10.0。该接口不支持选择GPU卡，用户可以通过CUDA环境变量(CUDA_VISIBLE_DEVICES)来选择GPU卡，或者使用pycaffe的set_device()接口来选择GPU卡。
- 如果既不调用set_gpu_mode接口也不调用set_cpu_mode接口。AMCT默认使用CPU进行权重的量化。
调用示例
| import amct_caffe as amct
amct.set_gpu_mode()
|