我在 2025 年 7 月刚进入南研所实习时，第一次接触 Ascend C 算子开发。当时我跟着视频教程依次完成了初级、中级和高级课程。学习越深入，我越觉得算子开发与调优非常有趣：它既需要理解硬件架构与数据流动，也需要在软件实现与性能优化之间不断权衡。整个过程中让我印象最深的有三处：SinhCustom、PReLU、MatMul 算子实现。
1）SinhCustom：从“能跑通”到“看懂流水”
在做 SinhCustom 时，我还属于初学者，主要参考仓库里的示例和课程视频完成开发。这个过程让我对算子开发的整体框架与流程有了较清晰的认识：从接口定义、数据搬运到计算实现，再到 CPU 仿真验证，逐步把一个算子跑通。 当我成功通过 CPU 仿真后，出于好奇，我进一步想看看它的 仿真流水图到底长什么样。然而在配置和使用仿真工具时遇到了不少麻烦，好在有前辈及时帮忙，同时负责仿真软件的同学也很耐心地指导我上手。最终当我第一次看到 Cube、Vector、MTE2 的流水图时，脑子里冒出的第一个词是：“优美”。 从那之后我开始不断修改一些实现细节，观察不同优化手段的效果，比如加入 double buffer 看能提升多少速度。边改边看曲线变化的过程让我觉得特别有意思——那种“改一点点，性能立刻有反馈”的体验非常上瘾。
2）PReLU：一次流水图带来的“定位与纠错”
PReLU 算子算是中级课程的考试内容。一开始我实现得比较朴素：没有做批量化张量计算，而是在 for 循环里逐元素处理。结果性能直接翻车——在仿真流水图上表现得非常直观：Scalar 计算单元长期占满，而 Cube 和 Vector 基本在“休息”。 看到这张图的那一刻，我就意识到问题不是“写得对不对”，而是“算在哪里”。于是我把计算从 Scalar 迁移到 Vector，并针对性地做了修改。改完之后，性能提升非常明显，也让我第一次真切体会到：流水图不只是结果展示，更是定位瓶颈的工具。
3）MatMul：从快速实现到沉浸式 tiling 推导与调优
有了前面两个算子的经验，到了 MatMul 我在实现上顺畅了很多，很快就完成了 搬入—计算—搬出 的代码，也跟着课程把 MatMul 跑起来了。 但真正让我投入其中的，是对 tiling（分块） 的兴趣：我在草稿本上推导不同分块方式。这个“推块”的过程我非常享受。 之后我再结合流水图进行进一步优化：加入了课程里没有覆盖的 double buffer，并持续调整 tiling 的大小。看着效率一次又一次提升，我感到很强的成就感。
写在最后
确实，很多人觉得 Ascend C 算子开发复杂且枯燥。但我自己的学习体验是：它真的很有趣——尤其是当你把视角下沉到硬件层（比如 910B2 或其他卡的架构），去琢磨怎样让数据流动更顺畅，再在软件层用代码把这些想法落地并调到更快，这种探索与反馈极大地满足了我的好奇心和研究欲。 而且往后还有 Ascend C++、PyPTO 等更易上手的范式。后面再到前端表达、计算图生成等环节，我也都很感兴趣，愿意继续投入精力去研究。但只可惜实习结束后要忙毕业的事情了，没有太多时间，也没有好好地完整地体验训练营内容。下次一定^_^. 因为相信，所以cann见。虽然没能参与从 0 到 1 的开端，但我很庆幸能见证 CANN 与昇腾从 1 到 ∞ 的成长与跃迁。加油！
点赞
收藏
回复
分享
举报
我在 2025 年 7 月刚进入南研所实习时，第一次接触 Ascend C 算子开发。当时我跟着视频教程依次完成了初级、中级和高级课程。学习越深入，我越觉得算子开发与调优非常有趣：它既需要理解硬件架构与数据流动，也需要在软件实现与性能优化之间不断权衡。整个过程中让我印象最深的有三处：SinhCustom、PReLU、MatMul 算子实现。
1）SinhCustom：从“能跑通”到“看懂流水”
在做 SinhCustom 时，我还属于初学者，主要参考仓库里的示例和课程视频完成开发。这个过程让我对算子开发的整体框架与流程有了较清晰的认识：从接口定义、数据搬运到计算实现，再到 CPU 仿真验证，逐步把一个算子跑通。 当我成功通过 CPU 仿真后，出于好奇，我进一步想看看它的 仿真流水图到底长什么样。然而在配置和使用仿真工具时遇到了不少麻烦，好在有前辈及时帮忙，同时负责仿真软件的同学也很耐心地指导我上手。最终当我第一次看到 Cube、Vector、MTE2 的流水图时，脑子里冒出的第一个词是：“优美”。 从那之后我开始不断修改一些实现细节，观察不同优化手段的效果，比如加入 double buffer 看能提升多少速度。边改边看曲线变化的过程让我觉得特别有意思——那种“改一点点，性能立刻有反馈”的体验非常上瘾。
2）PReLU：一次流水图带来的“定位与纠错”
PReLU 算子算是中级课程的考试内容。一开始我实现得比较朴素：没有做批量化张量计算，而是在
for循环里逐元素处理。结果性能直接翻车——在仿真流水图上表现得非常直观：Scalar 计算单元长期占满，而 Cube 和 Vector 基本在“休息”。 看到这张图的那一刻，我就意识到问题不是“写得对不对”，而是“算在哪里”。于是我把计算从 Scalar 迁移到 Vector，并针对性地做了修改。改完之后，性能提升非常明显，也让我第一次真切体会到：流水图不只是结果展示，更是定位瓶颈的工具。3）MatMul：从快速实现到沉浸式 tiling 推导与调优
有了前面两个算子的经验，到了 MatMul 我在实现上顺畅了很多，很快就完成了 搬入—计算—搬出 的代码，也跟着课程把 MatMul 跑起来了。 但真正让我投入其中的，是对 tiling（分块） 的兴趣：我在草稿本上推导不同分块方式。这个“推块”的过程我非常享受。 之后我再结合流水图进行进一步优化：加入了课程里没有覆盖的 double buffer，并持续调整 tiling 的大小。看着效率一次又一次提升，我感到很强的成就感。
写在最后
确实，很多人觉得 Ascend C 算子开发复杂且枯燥。但我自己的学习体验是：它真的很有趣——尤其是当你把视角下沉到硬件层（比如 910B2 或其他卡的架构），去琢磨怎样让数据流动更顺畅，再在软件层用代码把这些想法落地并调到更快，这种探索与反馈极大地满足了我的好奇心和研究欲。 而且往后还有 Ascend C++、PyPTO 等更易上手的范式。后面再到前端表达、计算图生成等环节，我也都很感兴趣，愿意继续投入精力去研究。但只可惜实习结束后要忙毕业的事情了，没有太多时间，也没有好好地完整地体验训练营内容。下次一定^_^. 因为相信，所以cann见。虽然没能参与从 0 到 1 的开端，但我很庆幸能见证 CANN 与昇腾从 1 到 ∞ 的成长与跃迁。加油！