自定义服务化配置预检规范
自定义服务化配置预检规范为.yaml格式文件,内容可分为如下五类:
- environment_variables:环境变量基线
- mindie_config:服务化配置基线
- ranktable:ranktable基线
- model_config:模型配置基线
- user_config:启动配置基线
五类配置中任何一类下均支持以下7种属性描述词:
- name:字段名
- value:基线取值
- reason:原因提示
- suggestions:场景描述部分
- condition:建议(或不建议)的具体场景
- suggested:建议场景部分
- not_suggested:不建议场景部分
以上suggestions、condition、suggested、not_suggested为拓展配置,用于说明value在不同场景下的取值reason。
name
支持嵌套,用于确定待配置的配置变量名,每向下一级就增加一个冒号,如:
features:experimental:enabled
在ranktable、user_config基线配置中,由于server_list等为列表,因此也支持以数字作为一个级别,如:
BackendConfig:ModelDeployConfig:ModelConfig:0:tp
对应的user_config配置文件如下(注意列表顺序用0、1、2...表示):
BackendConfig" : { "interNodeTLSEnabled" : false, "ModelDeployConfig" : { "truncation" : false, "ModelConfig" : [ { "tp": 1, ...
value
一般value直接配置值,如:
value: 'localhost'
或
value: false
如有特殊需要也可以用计算符号配合比较符号进行限制或赋值。
value中支持的计算符号:
"+", "-", "\*", "/", "//"
value中支持的比较符号:
'>=', '<=', '!=', '=', '>', '<'
=开头可以接上自定义的规则,如
value: = 1+1
value: = 1 + server_list:0:device:0:rank_id(通过与其他name的value计算来确定取值)
value: = =1(与value: 1效果相同)
value: = >1
value: = >=1
另外,value还支持分号;对多个表达式进行分割,如:
value: = 1 + server_list:0:device:0:rank_id ; < 5
代表value在等于server_list:0:device:0:rank_id的前提下,还需要满足value < 5。
value也可以为空,为空时仅检查该配置项存在性。
value也支持列表形式
value: - 2 - 3 - >9
父主题: 附录