学习华为昇腾AI教材MindSpore特性与应用部分Day1
动态计算图核心特点是计算图的构建和计算同时发生,在计算图中定义一个Tensor时,其值就已经被计 算且确定了。这种模式在调试模型时较为方便,能够实时得到中间结果的值,但是,由于所有 节点都需要被保存并且可以被访问,这导致我们难以对整个计算图进行优化。静态计算图模式将计算图的构建和计算分开,在构建阶段,根据完整的计算流程对原始的计算图(即前面的动态计算图)进行优化和调整得到更省内存和计算量更少的计算
01动静态图
一、概念
动态计算图核心特点是计算图的构建和计算同时发生,在计算图中定义一个Tensor时,其值就已经被计 算且确定了。这种模式在调试模型时较为方便,能够实时得到中间结果的值,但是,由于所有 节点都需要被保存并且可以被访问,这导致我们难以对整个计算图进行优化。
静态计算图模式将计算图的构建和计算分开,在构建阶段,根据完整的计算流程对原始的计算图(即前面的动态计算图)进行优化和调整得到更省内存和计算量更少的计算图,这个过程称为编译, 编译之后图的结构不再发生改变,也就是所谓的“静态”。

静态图的应用:Tensorflow
动态图的应用:PyTorch
MindSpore两种运行模式均支持。
02网络迁移
网络迁移是指从其他机器学习框架将神经网络迁移到MindSpore框架的过程。





03分布式训练
分布式训练: 在深度学习中,同时利用多个工作节点,分布式地、高效地训练出性能 优良的神经网络模型,分布式技术是深度学习技术的加速器。单机多卡,多机多卡。
分布式训练目的: 在深度学习中对训练性能进行优化。当数据集和参数量的规模越来越大,训练所需的时间和硬件资源会随之增加,最后会变成制约训练的瓶颈。分布式并行训练,可以降低对内存、计算性能等硬件的需求,是进行训练的重要优化手段。

04端云侧推理与部署

Ascend 310 AI处理器上推理 Ascend 310是面向边缘场景的高能效高集成度AI处理器,支持对MindIR格式和AIR格式模型进行推理。
Ascend 310 AI处理器上使用MindIR模型进行推理 • Atlas 200开发者套件又称Atlas 200 Developer Kit(以下简称Atlas 200 DK),是以Atlas 200 AI加速模块为核心的开发者板形态的终端类产品,集成了海思Ascend 310 AI处理器。Atlas 200 DK可以实现图像、视频等多种数据分析与推理计算,可广泛用于智能监控、机器人、无人机、视频服务器等场景。

基于MindSpore Serving部署推理服务 MindSpore Serving是一个轻量级、高性能的服务模块,旨在帮助MindSpore开发者在生产环境中高效部署 在线推理服务。当用户使用MindSpore完成模型训练后,导出MindSpore模型,即可使用MindSpore Serving创建该模型的推理服务。 有三种方式可以访问MindSpore Serving服务:MindSpore Serving提供gRPC接口访问Serving服务;基于RESTful接口访问MindSpore Serving服务;MindSpore Serving的Servable提供推理服务,包含两种类型。一种是推理服务来源于 单模型,一种是推理服务来源于多模型组合,多模型组合正在开发中。模型需要进行配 置以提供Serving推理服务。
昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链
更多推荐

所有评论(0)