昇腾社区首页
中文
注册
开发者
下载

ADXL简介

ADXL(Ascend Direct Xfer Library)即昇腾单边通信库,提供高性能、零拷贝的点对点数据传输的能力,并通过简易API开放给用户。

在分布式内存池的场景下,上层框架,比如Mooncake Store具备KV Cache管理的能力,但是在传输层需要依赖本地地址和远端地址进行内存的远端读写。ADXL即昇腾单边通信库在该场景下应运而生,提供了一个纯粹的基于本地地址和远端地址的传输能力。

表1 ADXL和LLM-Datadist比较

维度

ADXL

LLM-Datadist

使用场景

主要用于分布式集群间的内存传输。

主要用于分布式集群间的KV Cache传输和搬移。

主要功能

  • 链路管理,包括断链和建链。
  • 内存传输,包括内存的注册、解注册、传输。
  • 中转传输
  • 链路管理,包括断链和建链。
  • KV Cache传输,包括KV Cache的注册、解注册、传输。