MindSpore在Ascend上的精度问题
可能是在Asecend上算子出现溢出问题，如果找到溢出的算子，需要将其设置为fp32运行。具体可以参考精度调试指南，https://www.mindspore.cn/mindinsight/docs/zh-CN/master/accuracy_problem_preliminary_location.html。请问相同的mindspore代码在gpu上精度能达到0.59，在ascend上精度只有0
·
请问相同的mindspore代码在gpu上精度能达到0.59，在ascend上精度只有0.02，可能的原因是什么呢？
mindspore版本1.7.1
ascend 910单卡
****************************************************解答*****************************************************
可能是在Asecend上算子出现溢出问题，如果找到溢出的算子，需要将其设置为fp32运行。具体可以参考精度调试指南，https://www.mindspore.cn/mindinsight/docs/zh-CN/master/accuracy_problem_preliminary_location.html。
昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链
更多推荐
0
0- 0
已为社区贡献2条内容
所有评论(0)