NPU核数启动开销为什么会随着使用的核数增加而增加?
收藏回复举报
NPU核数启动开销为什么会随着使用的核数增加而增加?
t('forum.solved') 已解决
发表于2026-06-29 16:03:37
0 查看

我看文档说,

在算子执行过程中,可能会因为以下几个原因产生额外的启动开销或者头开销:

第一个就是:

  1. 核启动:每个核在启动时需要进行初始化操作,加载必要的配置和资源。

并且说:头开销会随着使用的核数增加而增加。

我的疑问是:如果我只用vector核,我用1个核启动如果耗时1us,那么用40个核的话,40个核不是同时启动的吗?那每个核1us,同时启动,最终表现出来的时间也是1us啊,为什么说 头开销会随着使用的核数增加而增加?不会增加呀。

文档地址: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/910beta1/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E8%AE%BE%E7%BD%AE%E5%90%88%E9%80%82%E7%9A%84%E6%A0%B8%E6%95%B0%E5%92%8C%E7%AE%97%E5%AD%90Kernel%E7%B1%BB%E5%9E%8B.md

我要发帖子