昇腾社区首页
中文
注册
开发者
下载

UpdateFlexSwitchInfo接口

接口功能

下发Flex节点信息更新请求。

接口格式

bool UpdateFlexSwitchInfo(std::shared_ptr<FlexSwitchInfo> &flexSwitchInfo);

接口参数

参数

是否必选

说明

取值要求

FlexSwitchInfo

flex节点信息更新。

std::shared_ptr<FlexSwitchInfo>

使用样例

构造一个LlmManager实例,然后下发切换身份请求。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
mindie_llm::GetRequestsCallback getRequestCallback;
mindie_llm::SendResponsesCallback sendResponsesCallback;
mindie_llm::ControlSignalCallback stopSignalCallback;
mindie_llm::LlmManagerStatsCallback statsCallback;
mindie_llm::SendStatusResponseCallback sendStatusCallback;
const std::string llmConfigPath;
std::map<std::string, std::string> ipInfo;
std::shared_ptr<mindie_llm::LlmManager> llmManager = std::make_shared<mindie_llm::LlmManager>(llmConfigPath, getRequestCallback, sendResponsesCallback, stopSignalCallback, statsCallback, sendStatusCallback,ipInfo);
std::shared_ptr<FlexSwitchInfo> flexSwitchInfo;
llmManager->UpdateFlexSwitchInfo(flexSwitchInfo);

返回值

bool类型。