华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
请教一下各位大佬,我用torch_npu.profiler在310B上采集了模型decode过程的信息,_get_initial_cache_position这段CANN和NPU空泡可能是什么导致?如果走静态图模式,这段还会不会出现?
我要发帖子
请教一下各位大佬,我用torch_npu.profiler在310B上采集了模型decode过程的信息,_get_initial_cache_position这段CANN和NPU空泡可能是什么导致?如果走静态图模式,这段还会不会出现?