- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 推理系列产品/Atlas A2 训练系列产品:支持
说明:针对Atlas A2 训练系列产品/Atlas A2 推理系列产品,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。
构造TransferWithCacheKeyConfig。
[object Object]
[object Object]
正常情况下返回TransferWithCacheKeyConfig的实例。
参数错误可能抛出TypeError、ValueError或LLMException。
- src_layer_range表示范围需等于dst_layer_range表示范围。
- cache_key为BlocksCacheKey时,src_batch_index只能为0。