华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
想请问一下,在单机接入多张 Ascend310B 卡的情况下,希望利用到多卡的计算资源进行推理应该参考哪些资料呢?
目前我在sample仓里找了找,发现了有这个相关例程 2_multi_card/yolov3_colorclassify_video ,不过看流程应该是分别将不同模型加载到不同卡上进行推理,所以还想请问目前应用上是否只支持多模型串联之类的形式进行多卡推理从而利用多卡算力?
我要发帖子
想请问一下,在单机接入多张 Ascend310B 卡的情况下,希望利用到多卡的计算资源进行推理应该参考哪些资料呢?
目前我在sample仓里找了找,发现了有这个相关例程 2_multi_card/yolov3_colorclassify_video ,不过看流程应该是分别将不同模型加载到不同卡上进行推理,所以还想请问目前应用上是否只支持多模型串联之类的形式进行多卡推理从而利用多卡算力?