windows本地安装MindSpore1.5,CPU训练时报错
问题描述:windows安装MindSpore1.5,利用MindStudio--python3.7.5,本地CPU训练,DeepLabv3,数据集voc2012(不混合SBD数据集);参考gitee上帖子:models: Models of MindSpore - Gitee.com参数如下:--data_file=D:\code\models-master\official\cv\deepla
问题描述:
windows安装MindSpore1.5,利用MindStudio--python3.7.5,本地CPU训练,DeepLabv3,数据集voc2012(不混合SBD数据集);
参考gitee上帖子:models: Models of MindSpore - Gitee.com
参数如下:
--data_file=D:\code\models-master\official\cv\deeplabv3\src\data\preprocess\MindRecoder_train0
--device_target=CPU
--train_dir=./ckpt
--train_epochs=20
--batch_size=8
--crop_size=513
--base_lr=0.015
--lr_type=cos
--min_scale=0.5
--max_scale=2.0
--ignore_label=255
--num_classes=21
--model=deeplab_v3_s16
--ckpt_pre_trained=D:\code\models-master\official\cv\deeplabv3\model\resnet101_ascend_v120_imagenet2012_official_cv_bs32_acc78.ckpt
--save_steps=3
--keep_checkpoint_max=200
问题:batch_size初始设为32,16都报错内存不足;
后调整为8,但训练几步后报错,提示如下




解答:
根据您最后一张截图,应该还是内存的问题,你可以再进行一下微调。您可以再调小一点,或是检查一下单个数据是否过大,过大也可能会导致内存不足。
昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链
更多推荐


所有评论(0)