is_flow_model

产品支持情况

产品

是否支持

Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas A2 训练系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

函数功能

配置模型是否是flow_model,对应底层llm.IsFlowModel配置项,如果传入模型是FlowModel时需要配置。

函数原型

1
is_flow_model(is_flow_model)

参数说明

参数名称

数据类型

取值说明

is_flow_model

bool

模型是否是flow_model, 取值包括True和False,默认是False。

  • True:是
  • False:否

调用示例

1
2
3
from llm_datadist import ModelConfig
model_config = ModelConfig()
model_config.is_flow_model = True

返回值

约束说明