开启动态shape图分档执行功能时需要调用该接口设置图被划分的档位。
def set_dim_gears(t: torch.Tensor, dim_gears: Dict[int, Union[List[int], Tuple[int]]])
参数 |
输入/输出 |
说明 |
是否必选 |
---|---|---|---|
t |
输入 |
待分档的输入Tensor。 |
是 |
dim_gears |
输入 |
用于设置Tensor不同dim维度下的档位值。输入类型为Dict,其中key为dim维度(整型),value为档位值(整数列表或元组)。 说明:
|
是 |
无
1 2 3 | import torch, torch_npu, torchair input1 = torch.ones(2, 2).npu() torchair.inference.set_dim_gears(input1, dim_gears={0:[2, 4]}) |