昇腾社区首页
中文
注册

set_gpu_mode

产品支持情况

产品

是否支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

x

Atlas 200I/500 A2 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

功能说明

调用该接口之后,AMCT执行权重量化的时候,会使用GPU进行加速。

函数原型

1
set_gpu_mode()

参数说明

返回值说明

约束说明

  • 用户有GPU环境,且支持CUDA10.0。该接口不支持选择GPU卡,用户可以通过CUDA环境变量(CUDA_VISIBLE_DEVICES)来选择GPU卡,或者使用pycaffe的set_device()接口来选择GPU卡。
  • 如果既不调用set_gpu_mode接口也不调用set_cpu_mode接口。AMCT默认使用CPU进行权重的量化。

调用示例

1
2
import amct_caffe as amct
amct.set_gpu_mode()