ATC指令:
atc --model=/data1/Chinese-CLIP/onnx/bge_reranker_large.onnx --framework=5 --output=/data1/Chinese-CLIP/onnx/bge_reranker_large --dynamic_batch_size="1,2,4,8" --input_shape="input_ids:-1,512;attention_mask:-1,512" --soc_version=Ascend910PremiumA
onnx网络图:

问题:
--dynamic_batch_size="1,2,4,8",档位只有8有效,档位1,2,4无效
ATC指令:
atc --model=/data1/Chinese-CLIP/onnx/bge_reranker_large.onnx --framework=5 --output=/data1/Chinese-CLIP/onnx/bge_reranker_large --dynamic_batch_size="1,2,4,8" --input_shape="input_ids:-1,512;attention_mask:-1,512" --soc_version=Ascend910PremiumA
onnx网络图:
问题:
--dynamic_batch_size="1,2,4,8",档位只有8有效,档位1,2,4无效