我通过-DUSE_ASCEND_DIRECT=ON 构建出来的mooncake可以在910b的机器上使用,但是启动的程序必须挂载npu设备(在我们的环境npu设备是独占的),我们的架构是 mooncake-store 提供kvcache池的能力,模型程序需要去mooncake-store中操作kvcache。 在h20环境 mooncake-store与模型程序通过rdma通信,此时mooncake-store不占用gpu设备,但是在910b的环境里,mooncake-store必须占用一张npu卡才能与模型程序正常通信,请问是我配置问题导致这样的原因,还是目前的设计只能实现这样的效果。 我的理想目标是 mooncake-store不占用npu卡就能与模型程序通信
mooncake-store 不挂载npu可以与模型正常通信吗,mooncake构建时配置了-DUSE_ASCEND_DIRECT=ON 参数
已解决



