目前用的是FunASR的三个模型,Paraformer-zh、fsmn-vad还有ct-punc,然后已经在ASCEND上跑通了,理论上ASCEND的算力更大,推理效率应该更高,但是实际推理效率不如GPU。
我参考了https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/ACL_PyTorch/built-in/audio/Paraformer和https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/ACL_PyTorch/built-in/audio/SenseVoice两个指导文档进行了修改,还是没有太大的效率收益,推理性能还是比较差
目前用的是FunASR的三个模型,Paraformer-zh、fsmn-vad还有ct-punc,然后已经在ASCEND上跑通了,理论上ASCEND的算力更大,推理效率应该更高,但是实际推理效率不如GPU。
我参考了https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/ACL_PyTorch/built-in/audio/Paraformer和https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/ACL_PyTorch/built-in/audio/SenseVoice两个指导文档进行了修改,还是没有太大的效率收益,推理性能还是比较差