动态卸载LoRA接口
接口功能
实现LoRA的动态卸载功能。调用该接口时,会根据LoRA的实际情况分别卸载和等待,并返回对应结果。
接口格式
操作类型:
操作类型:POST
URL:https://{ip}:{port}/v1/unload_lora_adapter
- {ip}字段为config.json配置文件中ServerConfig字段下managementIpAddress参数的值,默认值为127.0.0.2。
- {port}字段为config.json配置文件中ServerConfig字段下managementPort参数的值,默认值为1026。
请求参数
参数名 |
是否必选 |
说明 |
取值要求 |
|
|---|---|---|---|---|
lora_name |
必选 |
加载的LoRA名称 |
string:非空。 |
|
使用样例
请求样例1:
1 2 3 | curl -X POST 127.0.0.2:1026/v1/unload_lora_adapter -d '{ "lora_name": "lora2" }' |
响应样例:
1 | "Success: LoRA adapter lora2 removed successfully."
|
响应状态码:
- 状态码200,服务状态正常,消息体没有内容。
- 其他状态码,服务状态异常。
输出说明
返回值 |
类型 |
说明 |
|---|---|---|
"Success: LoRA adapter '{loraName }' removed successfully." |
string |
LoRA卸载成功。 |
"The LoRA adapter '{loraName }' cannot be found." |
string |
找不到需要卸载的LoRA。 |
父主题: EndPoint内部接口