SetDTarget接口
接口功能
设置请求发往哪个D节点的server IP。
接口格式
void SetDTarget(std::string &dTarget);
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
dTarget |
是 |
设置做完全量推理发往D节点的IP地址。 |
合法的string类型，server IP地址。 |
使用样例
构造一个请求对象后，为该请求对象设置做完全量推理发往D节点的IP地址。
1 2 3 4 | mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId); std::string serverIp = ""; runtimeRequest->SetDTarget(serverIp); |
返回值
无。
父主题： InferRequest