【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优
·
这一节涉及一些实操的内容,但我的电脑还没有配置好,所以先看知识性的内容,以后弄好了填坑
Ascend-PyTorch
课程目标
- 了解PyTorch与昇腾平台的适配
- 了解Davinci硬件架构
- 了解什么样的模型在昇腾上更亲和
- 了解软件术语
- 了解Ascend-PyTorch的安装步骤
- 了解如何将原生的PyTorch模型代码适配至Ascend-PyTorch
PyTorch

- 在线对接适配方案
- 最大限度继承pytorch框架动态图的特性
- 最大限度继承原生pytorch上的使用方式:最小的开发方式和代码的重用
- 最大限度继承pytorch原生的体系结构
- 扩展性好,对于新的网络类型或结构,只涉及相关计算类算子的开发和实现,对于框架类的算子可以复用
达芬奇架构

- 计算单元
- Cube:
- 矩阵运算
- fp16的16×16与16×16的矩阵乘
- 相关操作:matmul、conv2d、linear
- Vextor:
- 向量运算
- 算力低于Cube,但灵活性高
- 计算类型:fp16、fp32、int8
- Scalar:
- 各类型的标量数据运算&程序的流程控制
- 功能上类似于小的CPU
- Cube:
软件架构


Ascend-PyTorch安装
挖坑
PyTorch模型迁移
- 手工迁移
- 脚本转换工具(msFmkTransplt)
- 自动迁移(推荐)
挖坑
昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链
更多推荐

所有评论(0)