CANN 核心概念与开源组件解析

CANN（Compute Architecture for Neural Networks）是华为针对 AI 场景推出的异构计算架构，核心作用是承上启下：对上兼容多种 AI 框架，对下适配昇腾 AI 处理器的编程与运行，是提升昇腾 AI 处理器计算效率的核心平台，其部分核心组件已在 GitCode 开源，覆盖算子开发、图引擎优化、集群通信、神经网络计算等关键环节。​
开源地址：https://gitcode.com/cann
 

下面对文中提到的 CANN 开源组件及核心模块进行详细拆解：

一、编程语言类：ATVC

ATVC（Ascend C Template for Vector Compute）是基于 Ascend C API 构建的 C++ 模板头文件集合，聚焦Ascend C Vector 算子的快速开发。

• 核心优势：将算子开发的底层通用操作（如 Kernel 数据搬入搬出）和通用 Tiling 计算封装，解耦核心计算逻辑与底层实现，使开发效率提升3-5 倍；用户仅需匹配模板并编写核心计算逻辑，即可完成 Kernel 侧开发，无需手写 Tiling 也能实现较好性能。

• 开源地址：https://gitcode.com/cann/atvc

二、图引擎类：graph-autofusion

graph-autofusion是面向昇腾芯片的轻量级、解耦式组件集合，核心目标是通过自动融合技术加速模型执行。

• 当前进展：已开源 SuperKernel 组件，未来将持续开放更多自动融合相关模块。

• 开源地址：https://gitcode.com/cann/graph-autofusion

三、通信库类：hixl

HIXL（Huawei Xfer Library）是昇腾的单边通信库，面向集群场景设计。

• 核心能力：提供简单、可靠、高效的点对点数据传输能力，通过简易 API 开放给用户，成为多 AI 应用与多传输链路的桥梁。

• 典型场景：可用于大模型 PD 分离、RL 后训练参数切换、模型参数缓存等业务。

• 开源地址：https://gitcode.com/cann/hixl

四、算子库类：ops-nn

ops-nn是 CANN 算子库中负责神经网络计算能力的高阶算子库，是昇腾 AI 处理器执行神经网络任务的核心基础，包含：

• matmul 类算子（矩阵乘法核心计算）；

• activation 类算子（激活函数相关计算）；

• 其他神经网络通用计算算子。

• 开源地址：https://gitcode.com/cann/ops-nn