ADXL简介
ADXL(Ascend Direct Xfer Library)即昇腾单边通信库,提供高性能、零拷贝的点对点数据传输的能力,并通过简易API开放给用户。
在分布式内存池的场景下,上层框架,比如Mooncake Store具备KV Cache管理的能力,但是在传输层需要依赖本地地址和远端地址进行内存的远端读写。ADXL即昇腾单边通信库在该场景下应运而生,提供了一个纯粹的基于本地地址和远端地址的传输能力。
维度 |
ADXL |
LLM-Datadist |
---|---|---|
使用场景 |
主要用于分布式集群间的内存传输。 |
主要用于分布式集群间的KV Cache传输和搬移。 |
主要功能 |
|
|
父主题: ADXL开发