推理模型应用的架构如下

在这里插入图片描述

安装samples

git clone https://gitee.com/ascend/samples.git

获取mnist的air格式模型

wget https://modelzoo-train-atc.obs.cn-north-4.myhuaweicloud.com/003_Atc_Models/AE/ATC%20Model/lenet/mnist.air

模型转换

ATC可以实现模型转换
在这里插入图片描述
运行命令将air模型转为昇腾310推理芯片可以运行的om模型

atc --framework=1 --model=mnist.air --output=mnist --soc_version=Ascend310

这个时候我那边报错了，在此记录了一下：

acl报错及其解决方法（这一步卡了我半天时间，重点记录）

在这里插入图片描述
昇腾社区的200DK教程下载的PyACl的acl版本可能不匹配，我们需要根据我们的CANN版本来下载对应的CANN包，CANN包里面有PyACL的run包。我们以Ascend-cann-toolkit_5.0.4.alpha005_linux-aarch64为例，
去官网下载：https://www.hiascend.com/software/cann/community-history

在这里插入图片描述

解压Ascend-cann-toolkit_5.0.4.alpha005_linux-aarch64.run后可以使用pyACL，scp上传到我们的开发套件中。
在这里插入图片描述
将Ascend-pyACL_5.0.3_linux-aarch64.run传到200DK上。

运行如下命令：

chmod +x Ascend-pyACL-{software_version}.rc1-linux.aarch64.run
./Ascend-pyACL-{software_version}.rc1-linux.aarch64.run --install --run

这个时候终于可以使用ATC工具来完成模型转换了。

运行时找不到opencv：安装opencv-python包(注意：使用pip3.7.5前最好升级一下pip3.7.5到最新，不到最新的话下载opencv会卡住，实际是失败了，只是pip没报错而已)

运行查看结果

运行命令：

python3.7.5 src/classify.py ./data/

最终结果：
在这里插入图片描述

可能的报错：

运行时找不到opencv：安装opencv-python包(注意：使用pip3.7.5前最好升级一下pip3.7.5到最新，不到最新的话下载opencv会卡住，实际是失败了，只是pip没报错而已)

# 华为 # linux
Logo
昇腾开源生态专区

昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链

更多推荐

cover

DeepSeek 崩了 13 小时，不是故障，是 V4 在换引擎

avatar 昇腾开源生态专区

体系结构论文（107）：AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization

摘要：本文提出AscendOptimizer系统，针对华为Ascend NPU的AscendC算子优化难题，通过双阶段交替优化方法实现性能提升。系统将算子拆分为host侧tiling program和device侧kernel program：Stage I采用进化搜索优化tiling策略，利用硬件反馈探索可行解空间；Stage II通过"优化回退"机制从优质kernel反向构

avatar 昇腾开源生态专区

AtomGit模型托管与实验管理全指南

AtomGit模型托管指南：AI开发者的版本控制利器 摘要：本文介绍AtomGit平台针对AI开发者推出的模型托管与实验管理功能，解决传统Git无法有效管理大模型文件、实验参数分散等问题。AtomGit通过Git LFS大文件存储、模型卡片元数据记录、代码与模型版本关联等创新功能，实现AI项目的一体化管理。文章详细演示了如何创建模型仓库、配置Git LFS管理大文件、编写结构化模型卡片，并特别介绍

avatar 昇腾开源生态专区