推理服务器(插Atlas 300I 推理卡)的特征和资源利用的规则如表1所示。
策略名称
策略描述
按推理卡亲和性调度原则
优先选择同一张Atlas 300I 推理卡的昇腾AI处理器。
申请昇腾AI处理器个数为1~4,则选择同一张Atlas 300I 推理卡,且当前可用的Atlas 300I 推理卡数量为1个的节点为最佳,3个次佳、其次是2个、4个。