1.推理应用流程

1.1.创建工程

1.2.模型转换

1.3代码开发

1.3.1ACL代码
1.3.2MindX SDK开发

可视化模块化设计

中间的图片与处理 是基于AIPP的可视化处理

1.5.编译 交叉编译

1.6.运行与调试

1.7 调优工具

 

profiling性能分析

2.开发举例 resnet-50

2.1 准备工程

2.2.准备模型

2.3.准备数据-图片预处理

将图片转成bin文件

2.4.编译

2.5 运行

3.MindX SDK 模型开发 yolov3+resnet50

1.工程准备

2模型转换

2.1 yolov3模型转换

·        不涉及动态batch 所以将-1改为1

配置

2.2 resnet50转换

3. 数据准备 

4.使用MindX SDK

流程化完成工程搭建

 图片解码 图片缩放 图片的裁剪 图片推理 

5.编译

6.执行

.

4.总结

# 学习
Logo
昇腾开源生态专区

昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链

更多推荐

cover

DeepSeek 崩了 13 小时，不是故障，是 V4 在换引擎

avatar 昇腾开源生态专区

体系结构论文（107）：AscendOptimizer: Episodic Agent for Ascend NPU Operator Optimization

摘要：本文提出AscendOptimizer系统，针对华为Ascend NPU的AscendC算子优化难题，通过双阶段交替优化方法实现性能提升。系统将算子拆分为host侧tiling program和device侧kernel program：Stage I采用进化搜索优化tiling策略，利用硬件反馈探索可行解空间；Stage II通过"优化回退"机制从优质kernel反向构

avatar 昇腾开源生态专区

【GPT-4级模型轻量化权威指南】：基于华为昇腾+NVIDIA Triton的混合剪枝框架，推理延迟直降63%

面向大模型工程化中的模型剪枝技术，提供可落地的轻量化方案。基于华为昇腾+NVIDIA Triton构建混合剪枝框架，支持LLM推理加速，在A100/Ascend 910场景下延迟直降63%。涵盖结构化剪枝、知识蒸馏与动态稀疏推理，兼顾精度与吞吐。值得收藏

avatar 昇腾开源生态专区