bundle_build_model
产品支持情况
全量芯片支持。
功能说明
将输入的一组Graph编译为适配AI处理器的离线模型,并保存到内存缓冲区,该接口适用于权重更新场景。
函数原型
1 | bundle_build_model(graph_with_options: List[GraphWithOptions]) -> ModelBuffer |
参数说明
返回值说明
(ModelBuffer)编译生成的离线模型缓存。
约束说明
- 如果graph_with_options不是list[GraphWithOptions]类型,抛出TypeError。
- 如果编译失败,抛出RuntimeError。
父主题: Offline_compile接口