---
title: LinkLlmClusters
description: "| 产品 | 是否支持 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_10.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmcrv2_42_10.html
indexId: 392e22af1426dba8f3d1fead8591278de350f9dd091c857721a320a1cdc79e5659
---
# LinkLlmClusters

#### 产品支持情况

| 产品 | 是否支持 |
| --- | --- |
| Atlas 350 加速卡 | x |
| Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品 | x |
| Atlas 训练系列产品 | x |


说明：针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。


#### 函数功能

在LlmDataDist之间执行建链，Client端调用。


#### 函数原型

```
Status LinkLlmClusters(const std::vector<ClusterInfo> &clusters, std::vector<Status> &rets, int32_t timeout_in_millis = 1000)
```


#### 参数说明

| 参数名 | 输入/输出 | 描述 |
| --- | --- | --- |
| clusters | 输入 | 需要建链的集群信息。类型为ClusterInfo。需要配置ClusterInfo中的remote\_cluster\_id和remote\_ip\_infos信息，若Initialize未指定OPTION\_LOCAL\_COMM\_RES, 需额外配置local\_ip\_infos，每个ClusterInfo的local\_ip\_infos和remote\_ip\_infos仅支持配置一个ip\_info。 |
| rets | 输出 | 每个cluster建链结果。 |
| timeout\_in\_millis | 输入 | 建链超时时间，单位ms。默认1000ms。 |


#### 调用示例

单击Gitee(https://gitee.com/ascend/samples/tags)，根据“标签名”下载配套版本的sample包，从“cplusplus/level1_single_api/11_llm_data_dist”目录中获取样例。


#### 返回值

- LLM_SUCCESS：只有所有clusters建链成功，接口才会返回成功。
- 其他：建链失败，需要查看每个cluster的建链结果。


#### 异常处理

- LLM_ALREADY_LINK：当前的cluster已经和远端cluster建立了链接。
- LLM_LINK_FAILED：建链失败。


#### 约束说明

- 调用该接口前，需要先在Client和Server调用  Initialize
接口完成初始化。
- 允许创建的最大通信数量=512，建链数量过多存在内存OOM及KV Cache传输的性能风险。
  该约束支持的型号如下：
  - Atlas A2 训练系列产品 / Atlas A2 推理系列产品
  - Atlas A3 训练系列产品 / Atlas A3 推理系列产品


- 建议超时时间配置为200ms以上。如果TLS处于开启状态，建议超时时间配置为2000ms以上。查询TLS状态可以使用如下命令：

```
hccn_tool [-i %d] -tls -g [host]
```


- 调用该接口前Client和Server需提前注册所有内存，否则建链后注册不支持远端访问。
- 容器场景若未配置OPTION_LOCAL_COMM_RES或配置为空，需在容器内映射“/etc/hccn.conf”文件或者确保默认路径“/usr/local/Ascend/driver/tools”下存在hccn_tool，如果两者都不能满足，则需要用户将hccn_tool所在路径配置到PATH中。配置示例如下，hccn_tool_install_path表示hccn_tool所在路径。

```
export PATH=$PATH:${hccn_tool_install_path}
```


  该约束支持的型号如下：
  - Atlas A2 训练系列产品 / Atlas A2 推理系列产品
  - Atlas A3 训练系列产品 / Atlas A3 推理系列产品