亲和性调度策略

推理服务器(插Atlas 300I 推理卡)的特征和资源利用的规则如表1所示。

表1 推理服务器(插Atlas 300I 推理卡)亲和性策略

策略名称

策略描述

按推理卡亲和性调度原则

优先选择同一张Atlas 300I 推理卡昇腾AI处理器

申请昇腾AI处理器个数为1~4,则选择同一张Atlas 300I 推理卡,且当前可用的Atlas 300I 推理卡数量为1个的节点为最佳,3个次佳、其次是2个、4个。