昇腾社区首页
中文
注册

信息查询URI

支持OPTIONS和HEAD请求,OPTIONS和HEAD请求采用Flask框架默认支持的功能。

  • 查询推理服务器信息。
    GET /v2
    GET /v2/

    响应字段

    描述

    数据类型

    serverName

    推理服务名称。

    字符串

    返回样例:
    {'errorCode': 0, 'errorMsg': 'Succeeded!', 'isSuccess': true, 'outputs': [{'server_name': 'StreamServer'}]}
  • 查询推理服务器是否在运行。
    GET /v2/live
    GET /v2/live/

    响应字段

    描述

    数据类型

    isLive

    推理服务是否在运行。

    布尔值

    返回样例:
    {'errorCode': 0, 'errorMsg': 'Succeeded!', 'isSuccess': true, 'outputs': [{'isLive': True}]}
  • 查询推理服务器是否已经准备好接受推理请求。
    GET /v2/ready
    GET /v2/ready/

    响应字段

    描述

    数据类型

    isReady

    推理服务是否已经准备好接受推理请求。

    布尔值

  • 查询某个模型或者Stream是否已经准备好接受推理请求。

    GET v2/streams/${STREAM_NAME}/ready

    GET v2/models/${MODEL_NAME}/ready

    响应字段

    描述

    数据类型

    isReady

    模型或者Stream是否已经准备好接受推理请求。

    布尔值

    返回样例:
    {'errorCode': 0, 'errorMsg': 'Succeeded!', 'isSuccess': true, 'outputs': [{'isReady': True}]}

    ${MODEL_NAME}${STREAM_NAME}限制为字符串形式,字符集合为字母、数字、符号(+-_)的组合。

  • 查询某个模型或者Stream的配置信息。

    GET v2/streams/${STREAM_NAME}/config

    GET v2/models/${MODEL_NAME}/config

    响应字段

    描述

    数据类型

    streamsConfig/modelsConfig

    模型或者Stream的推理配置信息。

    JSON字符串

    返回样例:
    {'errorCode': 0, 'errorMsg': 'Succeeded!', 'isSuccess': true, 'outputs': [{'ModelSample': {'deviceId': 1, 'dynamicBatching': {'dynamicStrategy': 'Nearest', 'preferredBatchSize': [1, 2, 4, 8], 'singleBatchInfer': 0, 'waitingTime': 100}, 'inferType': 'models', 'inputs': [{'dataType': 'UINT8', 'format': 'FORMAT_NHWC', 'id': 0, 'name': 'Placeholder', 'shape': [-1, 224, 224, 3]}], 'name': 'resnet50', 'outputs': [{'dataType': 'FLOAT32', 'format': 'FORMAT_NONE', 'id': 0, 'name': 'fp32_vars/dense/BiasAdd:0', 'shape': [-1, 1001]}], 'timeoutMs': 3000}}]}

    ${MODEL_NAME}${STREAM_NAME}限制为字符串形式,字符集合为字母、数字、符号(+-_)的组合。