昇腾社区首页
中文
注册
开发者
下载

Connect

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、Atlas 300I A2 推理卡、A200I A2 Box 异构组件。

函数功能

与远端AdxlEngine进行建链。

函数原型

1
Status Connect(const AscendString &remote_engine, int32_t timeout_in_millis = 1000)

参数说明

参数名

输入/输出

描述

remote_engine

输入

远端AdxlEngine的唯一标识。remote_engine对应的AdxlEngine需要是同一个Server。

timeout_in_millis

输入

建链的超时时间,单位:ms,默认值:1000。

调用示例

单击Gitee,根据“标签名”下载配套版本的sample包,从“cplusplus/level1_single_api/12_adxl”目录中获取样例。

返回值

  • SUCCESS:成功
  • PARAM_INVALID:参数错误
  • TIMEOUT:建链超时
  • ALREADY_CONNECTED:重复建链
  • 其他:失败

异常处理

无。

约束说明

  • 需要在Client和Server的Initialize接口初始化完成后调用。
  • 允许创建的最大通信数量=512,建链数量过多存在内存OOM及KV Cache传输的性能风险。
  • 建议超时时间配置200ms以上。
  • 调用该接口前需提前注册所有本地以及远端内存,否则建链后注册不支持远端访问。
  • 容器场景需在容器内映射“/etc/hccn.conf”文件或者确保默认路径“/usr/local/Ascend/driver/tools”下存在hccn_tool,如果两者都不能满足,则需要用户将hccn_tool所在路径配置到PATH中。配置示例如下,hccn_tool_install_path表示hccn_tool所在路径。
    export PATH=$PATH:${hccn_tool_install_path}
  • 如果并发建链,建链使用的某个设备卡是down的状态,可能导致某些链路建链超时。如果需要非down状态的卡建链成功,则需要对所有涉及建链的卡配置如下命令。
    hccn_tool -i ${device_id} -tls -s enable 1
  • 该接口需要和Initialize运行在同一个线程上,如需切换线程调用该接口,需要在Initialize所在线程调用aclrtGetCurrentContext获取context,并在新线程调用aclrtSetCurrentContext设置context。