安装MindIO前配置

批量安装MindIO前需要参考以下操作完成配置。单机安装请跳过本章节。

  1. 登录Ascend Deployer所在服务器。
  2. 在Ascend Deployer所在服务器上修改MindIO配置文件。

    进入ascend-deployer/ascend_deployer/playbooks/roles/mindx.dl/templates目录,编辑memfs.conf文件,配置文件中参数说明如下所示,根据实际情况修改,添加完成后执行:wq保存退出。

    表1 参数说明

    参数

    说明

    取值范围

    缺省值

    memfs.mount_path

    MindIO文件系统挂载路径,用户可以自定义挂载路径,方便用户查看MindIO内存缓存系统内文件。需确保此参数所指向的目录为空,MindIO安装时会重新创建该目录。

    -

    /mnt/memfs

    memfs.data_block_pool_capacity_in_gb

    MindIO文件系统内存分配大小,单位:GB,根据服务器内存大小来配置,建议不超过系统总内存的25%。

    1~1024

    128

    memfs.data_block_size_in_mb

    文件数据块分配最小粒度,单位:MB,根据使用场景中大多数文件的size决定配置,建议平均每个文件的数据块大小不超过128MB。

    1~1024

    128

    memfs.max_open_files

    最大打开文件数。

    1024~65536

    4096

    memfs.fuse_path

    本节点上FUSE动态链接库的地址,在安装时自动填入,非必填。

    -

    -

    memfs.write.parallel.enabled

    MindIO并发写性能优化开关配置,用户需结合业务数据模型特征决定是否打开本配置。

    • false:关闭
    • true:开启

    false

    memfs.write.parallel.thread_num

    MindIO并发写性能优化并发数。

    2~96

    32

    memfs.write.parallel.slice_in_mb

    MindIO并发写性能优化数据切分粒度,单位:MB。

    1~1024

    16

    memfs.multi_group.enabled

    MindIO支持多个用户组访问的配置开关。

    • false:不支持多用户组
    • true:支持多用户组

    false

    underfs.count

    对接后端存储实例数量,每个存储实例对应一个挂载好的本地目录。

    1~32

    1

    underfs.default

    后端存储默认使用ID。

    1~underfs.count

    1

    underfs.<ID>.type

    指定第<ID>个后端存储的类型,目前只支持pacific。<ID>的取值范围:1~underfs.default。

    -

    pacific

    underfs.<ID>.name

    第<ID>个后端存储的名称,每个后端存储名称要唯一。<ID>的取值范围:1~underfs.default。

    -

    pacific01

    underfs.<ID>.mount_path

    第<ID>个后端存储的挂载目录,需要用户完成Pacific后端存储对接并完成挂载。<ID>的取值范围:1~underfs.default。

    -

    /mnt/dpc<ID>

    underfs.<ID>.docker_map_path

    第<ID>个后端存储的挂载目录在Docker内的映射目录,<ID>的取值范围:1~underfs.default。

    后端存储在主机侧,用户在Docker中运行业务,且后端存储的挂载目录在Docker内的映射目录二者不相同时,用户需要设置本配置项。

    -

    -

    background.backup.enabled

    是否开启备份。

    • false:关闭
    • true:开启

    true

    background.backup.thread_num

    备份线程数量。

    1~256

    32

    background.backup.ufs_name

    备份指定后端存储名称。

    -

    pacific01

    background.backup.failed_retry_times

    失败重试次数。

    10~60

    10

    background.backup.failed_retry_max_interval_sec

    失败重试间隔,单位:秒。

    10~60

    10

    background.backup.failed_max_cnt_for_unserviceable

    备份失败次数达到该值后,触发停MindIO服务。

    10~60

    10

    background.backup.failed_auto_evict_file

    备份文件到underfs失败后,是否要自动取消后台备份任务。

    • false:不取消后台备份
    • true:取消后台备份

    false

    ipc.max_message_size_in_kb

    最大消息长度,单位:KB。

    4~1024

    16

    ipc.permit_super_user_access

    是否允许root用户通过MindIO SDK访问MindIO文件系统内的文件。

    须知:

    默认禁止root用户访问,若客户需要开启root访问权限,可能存在安全风险,请谨慎使用。

    • false:不允许
    • true:允许

    false

    ipc.author.enabled

    是否开启白名单校验。

    须知:

    关闭白名单校验可能存在风险,请谨慎使用。

    • false:关闭
    • true:开启

    true

    ipc.author.encrypted

    是否开启白名单加密。

    须知:

    关闭白名单加密可能存在风险,请谨慎使用。

    • false:关闭
    • true:开启

    true

    ipc.author.file_path

    白名单保存地址。

    -

    /opt/mindio/security/authorization/whitelist

    ipc.kmc.ksf.master

    白名单主加密文件地址。

    -

    /opt/mindio/tools/pmt/master/ksfa

    ipc.kmc.ksf.standby

    白名单备加密文件地址。

    -

    /opt/mindio/tools/pmt/standby/ksfb

    ipc.tls.enabled

    是否开启Client与Server的TLS加密通道。

    • false:关闭
    • true:开启

    false

    ipc.tls.cert

    开启TLS加密通道时,Server端证书文件路径。此路径由工具自动填充,无需手动修改。

    -

    -

    ipc.tls.ca

    开启TLS加密通道时,Server端证用于验证Client端证书的CA文件路径。此路径由工具自动填充,无需手动修改。

    -

    -

    ipc.tls.pk

    开启TLS加密通道时,Server端密钥文件路径。此路径由工具自动填充,无需手动修改。

    -

    -

    ipc.tls.pk.pwd

    开启TLS加密通道时,Server端密钥文件的口令文件,里面保存的是加密后的口令。此路径由工具自动填充,无需手动修改。

    -

    -

  3. 在Ascend Deployer所在服务器上配置待安装的其他计算节点的IP地址、用户名。

    进入ascend-deployer/ascend_deployer目录,编辑inventory_file文件,在[worker]下面需注释或删除“localhost ansible_connection='local'”内容,新增执行设备和待安装设备的IP地址、用户名,添加完成后执行:wq保存退出。格式参考如下:

    [worker]
    ip_address_1 ansible_ssh_user="root" npu_num="请替换为npu卡的数量"       # root用户
    ip_address_2 ansible_ssh_user="root" npu_num="请替换为npu卡的数量"       # root用户
    • ip_address支持配置IPv4和IPv6两种类型的IP地址,用户使用PuTTY等SSH客户端连接执行机的IP地址和inventory_file文件中配置的IP地址类型需要保持统一,均为IPv4或IPv6。
    • inventory_file文件中支持指定ansible_ssh_pass字段配置其他待安装设备的密码进行SSH密码认证,若已使用SSH密钥认证方式连接,则无需再配置。
    • inventory_file文件中[all:vars]下提供了可选字段RUNNER_IP,可配置为执行Ascend Deployer所在设备的IP地址,请注意该IP需与其他待安装设备互通。建议在执行机含有多网段多个本机IP时配置该字段。