enable_remote_cache_accessible

配置是否开启远端Cache可直接访问功能。

开启该Option后，会在本地缓存远端Cache元数据（索引，内存地址等），从而加速Pull流程。但也会引入相关约束，详见约束说明。

enable_remote_cache_accessible(self, enable_remote_cache_accessible: bool)

参数名称	数据类型	取值说明
enable_remote_cache_accessible	bool	是否开启远端Cache可直接访问功能。取值如下。 True：开启 False：不开启默认为不开启。不开启该opition时，Atlas A3 训练系列产品/Atlas A3 推理系列产品仅支持RDMA传输协议。建议开启该option，以支持更多类型的传输协议。

参数名称

数据类型

取值说明

enable_remote_cache_accessible

bool

是否开启远端Cache可直接访问功能。取值如下。

默认为不开启。

不开启该opition时，Atlas A3 训练系列产品/Atlas A3 推理系列产品仅支持RDMA传输协议。建议开启该option，以支持更多类型的传输协议。

from llm_datadist import LLMConfig
llm_config = LLMConfig()
llm_config.enable_remote_cache_accessible = True

正常情况下无返回值。

参数错误可能抛出TypeError或ValueError。

索引的更新只在第一次Pull时触发，对端在第一次Pull之后的Cache操作对本端不可见。用户需要保证Cache的有效性。所以该Option更适用于PA的场景，因为该场景下Cache只会在用户脚本初始化阶段分配/注册，而不会频繁改变。

父主题： LLMConfig