推理性能问题
收藏回复举报
推理性能问题
发表于2025-11-20 12:25:33
0 查看

使用mindSdk的APP_ERROR Infer(std::vector<Tensor> &inputTensors, std::vector<Tensor> &outputTensors,  AscendStream &stream = AscendStream::DefaultStream())接口进行推理  和 直接使用cann的aclError aclmdlExecute(uint32_t modelId, const aclmdlDataset *input, aclmdlDataset *output)接口进行推理  在推理速度方面会有提升吗

直接使用cann推理 会更快吗

我要发帖子