问题描述:

windows安装MindSpore1.5,利用MindStudio--python3.7.5,本地CPU训练,DeepLabv3,数据集voc2012(不混合SBD数据集);

参考gitee上帖子:models: Models of MindSpore - Gitee.com

参数如下:

--data_file=D:\code\models-master\official\cv\deeplabv3\src\data\preprocess\MindRecoder_train0

--device_target=CPU

--train_dir=./ckpt

--train_epochs=20

--batch_size=8

--crop_size=513

--base_lr=0.015

--lr_type=cos

--min_scale=0.5

--max_scale=2.0

--ignore_label=255

--num_classes=21

--model=deeplab_v3_s16

--ckpt_pre_trained=D:\code\models-master\official\cv\deeplabv3\model\resnet101_ascend_v120_imagenet2012_official_cv_bs32_acc78.ckpt

--save_steps=3

--keep_checkpoint_max=200

问题:batch_size初始设为32,16都报错内存不足;

后调整为8,但训练几步后报错,提示如下

解答:

根据您最后一张截图,应该还是内存的问题,你可以再进行一下微调。您可以再调小一点,或是检查一下单个数据是否过大,过大也可能会导致内存不足。

Logo

昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链

更多推荐