aclSetInputTensorAddr
函数功能
通过aclSetAclOpExecutorRepeatable使能aclOpExecutor可复用后,若输入Device内存地址变更,需要刷新输入aclTensor中记录的Device内存地址。
函数原型
aclnnStatus aclSetInputTensorAddr(aclOpExecutor *executor, const size_t index, aclTensor *tensor, void *addr)
参数说明
参数名 |
输入/输出 |
说明 |
|---|---|---|
executor |
输入 |
设置为复用状态的aclOpExecutor。 |
index |
输入 |
待刷新的输入aclTensor的索引,从0开始计数。 |
tensor |
输入 |
待刷新的aclTensor指针。 |
addr |
输入 |
需要刷新到指定aclTensor中记录的Device存储地址。 |
返回值说明
返回0表示成功,返回其他值表示失败。
使用样例
// 创建输入和输出的aclTensor和aclTensorList
std::vector<int64_t> shape = {1, 2, 3};
aclTensor tensor1 = aclCreateTensor(shape.data(), shape.size(), aclDataType::ACL_FLOAT,
nullptr, 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), nullptr);
aclTensor tensor2 = aclCreateTensor(shape.data(), shape.size(), aclDataType::ACL_FLOAT,
nullptr, 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), nullptr);
aclTensor tensor3 = aclCreateTensor(shape.data(), shape.size(), aclDataType::ACL_FLOAT,
nullptr, 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), nullptr);
aclTensor output = aclCreateTensor(shape.data(), shape.size(), aclDataType::ACL_FLOAT,
nullptr, 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), nullptr);
aclTensor *list[] = {tensor1, tensor2};
auto tensorList = aclCreateTensorList(list, 2);
uint64_t workspace_size = 0;
aclOpExecutor *executor;
// AddCustom算子有两个输入(aclTensorList和aclTensor),一个输出(aclTensor)
// 调用第1段接口
aclnnAddCustomGetWorkspaceSize(tensorList, tensor3, output, &workspace_size, &executor);
// 设置executor为可复用
aclSetAclOpExecutorRepeatable(executor);
void *addr;
aclSetInputTensorAddr(executor, 0, tensor1, addr); // 刷新输入tensorlist中第1个aclTensor的device地址
aclSetInputTensorAddr(executor, 1, tensor2, addr); // 刷新输入tensorlist中第2个aclTensor的device地址
aclSetInputTensorAddr(executor, 2, tensor3, addr); // 刷新输入aclTensor的device地址
.......
// 调用第2段接口
aclnnAddCustom(workspace, workspace_size, executor, stream);
// 清理executor
aclDestroyAclOpExecutor(executor);
父主题: 基础接口