创建模型编译器。
static Builder* CreateInferBuilder(const std::string& socName) noexcept;
在一个进程中只能创建一次Builder,在进程结束时销毁Builder。
参数名 |
输入/输出 |
说明 |
---|---|---|
socName |
输入 |
昇腾AI处理器参数类型。 在安装昇腾AI处理器的服务器执行npu-smi info命令进行查询,在查询到的“Name”前增加Ascend信息,例如“Name”对应取值为xxxyy,实际配置的<soc_version>值为Ascendxxxyy。 |
Builder的指针。