昇腾社区首页
中文
注册
开发者
下载

UnlinkLlmClusters

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas A2 训练系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

函数功能

在LlmDataDist之间执行断链。

函数原型

1
Status UnlinkLlmClusters(const std::vector<ClusterInfo> &clusters, std::vector<Status> &rets, int32_t timeout_in_millis = 1000, bool force_flag = false)

参数说明

参数名

输入/输出

描述

clusters

输入

需要断链的cluster信息。类型为ClusterInfo

rets

输出

每个cluster断链结果。

timeout_in_millis

输入

断链超时时间,单位ms。

force_flag

输入

是否为强制断链。默认为否。

强制断链仅强制拆除本端链接,所以两端都要调用。

非强制断链在Client端发起,不存在故障时两端链路都会拆除。但在存在链路故障时还需要在Server端发起调用强制断链,耗时长。

调用示例

请参考decoder_sample2

返回值

  • SUCCESS:只有所有clusters断链成功,接口才会返回成功。
  • 其他:执行断链失败,需要查看rets每个cluster的断链结果。

异常处理

LLM_UNLINK_FAILED:断链失败。

约束说明

调用该接口前,需要先调用Initialize接口完成初始化。