--- title: CANN运行时 description: CANN运行时（CANN Runtime）提供了高效的硬件资源管理、媒体数据预处理、单算子加载执行、模型推理等开发接口，供开发者轻松构建高性能人工智能应用 keywords: CANN,运行时,Ascend,Core,AI,ACL Graph,了解详情,管理 url: https://www.hiascend.com/cann/runtime section: (其他) --- # CANN运行时 URL: https://www.hiascend.com/cann/runtime 描述: CANN运行时（CANN Runtime）提供了高效的硬件资源管理、媒体数据预处理、单算子加载执行、模型推理等开发接口，供开发者轻松构建高性能人工智能应用 关键词: CANN,运行时,Ascend,Core,AI,ACL Graph,了解详情,管理 运行时 Ascend NPU运行时是昇腾平台CANN软件栈中负责驱动硬件执行与管理AI计算任务的核心组件，它通过提供统一的运行环境与API，使得上层应用和框架能够高效利用Ascend NPU计算资源。Ascend NPU的运行时是连接应用与NPU硬件的桥梁，实现从资源初始化、任务调度、内存通信到模型执行的完整运行时支持。 快速入门获取源码查看文档 关键特性 主要功能 主要功能 ... Device管理：提供对计算设备设置、重置、查询和配置等功能。 Memory管理：提供设备内存和Host内存的申请、释放、内存拷贝等功能。 Context管理：Context是计算设备的执行上下文环境，提供上下文创建、销毁，切换和配置等功能。 Stream管理：Stream是Device提供的逻辑任务执行队列，提供Stream创建和销毁、属性查询和配置、Stream同步、Stream状态管理等功能。 Kernel管理：提供AI Core、AI CPU等算子注册管理和KernelLaunch功能。 Event管理：Event是用于设备内Stream间任务同步的事件，提供Event创建和销毁、事件同步、记录事件时间戳信息等功能。 Notify管理：Notify是跨设备间任务同步的通知，提供Notify创建和销毁、事件同步等功能。 运行时全局管理：提供运行时初始化和进程级配置、DFX配置（例如算子数据Dump、溢出检测等）和全局管理功能。 ACL Graph：提供任务捕获或编排方式构建"运行时图"，利用"运行时图"任务整体下发能力，节省Host调度耗时提升整体性能。 开源开放项目 [了解详情](https://www.hiascend.com/cann/open-map?name=h0206) 5366578 开发指南 快速上手应用开发 通过简单的图片分类应用了解开发AI应用的基本过程 文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000000.html)获取样例 [了解详情](https://gitee.com/ascend/samples/tree/master/inference/modelInference/sampleResnetQuickStart/cpp)在线课程 [了解详情](https://www.hiascend.com/zh/developer/courses/detail/1676864664357150722) 模型推理基础特性 聚焦推理效率、场景适配与开发易用性的核心基础特性 文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000026.html)获取样例 [了解详情](https://gitee.com/ascend/samples/tree/master/cplusplus/level2_simple_inference/1_classification/resnet50_imagenet_classification)在线课程 [了解详情](https://www.hiascend.com/zh/developer/courses/detail/1679059522924683266) 媒体数据处理 视频获取、预处理、编解码与音频处理的媒体数据全链路支撑 文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000047.html)获取样例 [了解详情](https://gitee.com/ascend/samples/tree/master/cplusplus/level1_single_api/7_dvpp/vpc_sample)在线课程 [了解详情](https://www.hiascend.com/zh/developer/courses/detail/1679321450318241793) 单算子加载执行 算子描述、编译加载、数据准备与设备执行的单算子独立运行支撑 文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000017.html)获取样例 [了解详情](https://gitee.com/ascend/samples/tree/master/cplusplus/level1_single_api/1_acl/4_blas/gemm)在线课程 [了解详情](https://www.hiascend.com/zh/developer/courses/detail/1679388822440329218) 高阶扩展 多样化编程 学习如何实现模型推理动态扩展特性，如何开发高性能应用 模型推理扩展特性文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000041.html)获取样例 [了解详情](https://gitee.com/ascend/samples/tree/master/cplusplus/level2_simple_inference/2_object_detection/YOLOV3_dynamic_batch_detection_picture)在线课程 [了解详情](https://www.hiascend.com/zh/developer/courses/detail/1679396137362628609)精度性能优化文档 [了解详情](https://www.hiascend.com/document/detail/zh/canncommercial/82RC1/appdevg/acldevg/aclcppdevg_000096.html) 支持与帮助 技术工单 为您提供专业高效的人工服务支持 昇腾论坛 问题求助，技术探讨，大咖在线答疑解惑