设置算子在NPU上执行时的调度模式。
ge::graphStatus SetScheduleMode(const uint32_t schedule_mode)
参数 |
输入/输出 |
说明 |
---|---|---|
schedule_mode |
输入 |
0:普通模式,默认情况下为普通模式。 1:batchmode模式,仅在模型执行场景且模型中存在核间同步算子时需要设置该模式。该模式不支持直接或者间接通过单算子API执行的方式进行算子调用的场景 。 |
无
ge::graphStatus TilingForAdd(TilingContext *context) { uint32_t batch_mode = 1U; auto ret = context->SetScheduleMode(batch_mode); GE_ASSERT_SUCCESS(ret); ... }