当前系统支持在用户脚本中指定配置动态档位信息,从而支持动态输入的场景。
编译并运行Graph场景的动态分档当前仅支持整图分档:使用session参数设置分档信息,输入可以为dataset方式、placeholder方式,或者两种混合方式。对于混合输入,当前仅支持其中一种为动态变化的场景。
Atlas 推理系列产品(Ascend 310P处理器)
Atlas 训练系列产品
Atlas A2训练系列产品
1 2 3 4 5 |
auto shape_data = vector<int64_t>({ 1,-1,-1 }); TensorDesc desc_data(ge::Shape(shape_data), FORMAT_ND, DT_FLOAT); auto data = op::Data("data"); data.update_input_desc_data(desc_data); data.update_output_desc_out(desc_data); |
1 2 3 4 5 6 7 |
std::map<std::string, std::string> options = {{"ge.inputShape", ""data:1,1,40,-1;label:1,-1;mask:-1,-1""}, {"ge.dynamicDims", "20,20,1,1;40,40,2,2;80,60,4,4"}, {"ge.dynamicNodeType", "1"}}; //分档参数添加到session ge::Session *session = new ge::Session(options); //分档参数添加到graph session->AddGraph(graph_id, graph, options); |
有三个“;”,表示输入shape支持三个档位,每个档位中的值对应输入shape中的“-1”的取值: