rdma_service_level

用于配置RDMA网卡的service level。

rdma_service_level(self, rdma_service_level: int)

参数名称	数据类型	取值说明
rdma_service_level	int	用于配置RDMA网卡的service level。和环境变量HCCL_RDMA_SL功能相同，如同时配置，当前option优先级更高；未同时配置，以配置的一方为准。取值范围为[0, 7]，默认值为4。更多信息请参考《环境变量参考》。

参数名称

数据类型

取值说明

rdma_service_level

int

用于配置RDMA网卡的service level。和环境变量HCCL_RDMA_SL功能相同，如同时配置，当前option优先级更高；未同时配置，以配置的一方为准。

取值范围为[0, 7]，默认值为4。

更多信息请参考《环境变量参考》。

from llm_datadist import LLMConfig
llm_config = LLMConfig()
llm_config.rdma_service_level = 2

正常情况下无返回值。

参数错误可能抛出TypeError或ValueError。

无。

父主题： LLMConfig