- 若使用HTTPS服务，服务器证书私钥不能使用明文密钥，需要通过华为KMC组件对密钥进行管理。使用华为KMC组件时，需要通过安装haveged服务解决随机数阻塞问题，请参考haveged官网的安装说明进行安装，例如Ubuntu系统可以使用：apt-get install -y haveged 进行安装，请用户确保所安装的软件来源的合法性，并在安装前进行完整性校验。
客户端维持连接的时间取决于服务器所设置的keepAlive相关参数，请根据实际业务合理设置TCP保活时间、探测次数和探测间隔。
- 建议用户使用操作系统低权限的用户使用该推理服务。不建议root用户使用该服务。
- 侦听IP固定为127.0.0.1
配置项 |
描述 |
是否必选 |
是否可修改 |
|---|---|---|---|
server_name |
推理服务名称，默认为“StreamServer”。请勿包含敏感信息。 |
否 |
是 |
infer_config_repo |
推理配置文件仓库的存储目录，默认为当前目录下的“inferConfigRepository”文件夹，推理服务会递归扫描此目录下面的所有推理配置文件（JSON文件），针对每一个配置文件，推理服务会尝试拉起该服务，如果硬件资源耗尽，会出现服务拉起失败的情况。 推理服务对“inferConfigRepository”文件夹的层次深度做了限制，包含自身文件夹在内，最大层次为10层，最大文件及文件夹个数为100个，如果不满足上述条件，将无法启动推理服务器。 |
否 |
是 |
request_cache_size |
每个推理服务请求缓冲区的大小，默认为“120”，设置范围 [1,1000]。 设置超出上（下）限时，将读取上（下）限的值。 |
否 |
是 |
max_request_rate |
客户端请求速率限制，默认为每秒钟20次请求，设置范围 [1,30]。 设置超出上（下）限时，将读取上（下）限的值。 |
否 |
是 |
max_content_length |
客户端请求报文大小限制，默认报文大小和请求头大小之和小于20480KB=20MB，设置时以KB为单位，设置范围 [1,51200]。 设置超出上（下）限时，将读取上（下）限的值。 |
否 |
是 |
port |
推理服务侦听的端口号，范围为[1025, 65535]，默认为“8080” |
否 |
是 |
server_crt |
服务器证书“server.crt”文件路径，由CA签发，目标路径文件属主为mxVision安装用户且权限为“400”。 |
否 |
是 |
server_key |
服务器证书私钥文件“server.key”文件路径，请使用加密后的私钥文件。目标路径文件属主为mxVision安装用户且权限为“400”。 |
否 |
是 |
ca_crt |
CA证书“ca.crt”文件路径。目标路径文件属主为mxVision安装用户且权限为“400”。 |
否 |
是 |
crl |
吊销列表“ca.crl”文件路径，目标路径文件属主为mxVision安装用户且权限为“400”。仅用于需要本地吊销列表时填写，如无需吊销列表时无需填写。 |
否 |
是 |
server_key_mm |
服务器私钥密文，不能使用明文密钥，由华为KMC组件管理，建议不要手动修改该配置项。最长位数为“400”。 |
否 |
是 |
cipher_list |
协议算法套件，有默认值可以不修改，多个套件用冒号“:”分割。若不填写则为默认值。 StreamServer仅支持ECDHE-ECDSA-AES128-CCM、ECDHE-ECDSA-AES256-CCM:ECDHE-ECDSA-AES128-GCM-SHA256、ECDHE-ECDSA-AES256-GCM-SHA384、ECDHE-RSA-AES128-GCM-SHA256、ECDHE-RSA-AES256-GCM-SHA384算法套件。 |
否 |
是 |
sdp_algorithm_id |
KMC加密算法函数，以ID填写，默认为“AES256_GCM”。 |
否 |
是 |