问题描述:

执行纯模型推理命令:

​
bash run.sh pa_bf16 performance [[256,256]] 192 deepseekv3 /models/deepseek-ai-r1-w8a8-mindie/ /models/workspace/rank_table.json 16 2 0 192.168.2.10 [1,16,1,16,-1,-1]

​

报下面提示,mki_cfg.ini does not exist,最后程序退出

问题定位:

经排查,程序实际执行成功,已经产出性能测试结果文件到下面路径,只是打屏信息较少

/usr/local/Ascend/atb-models/tests/modeltest/outputs/results/NPU/performance_test/performance

开启打屏多打些信息: 

export MINDIE_RT_LOG_PRINT_TO_STDOUT=1
export MINDIE_RT_LOG_LEVEL=0  
export MINDIE_LOG_TO_STDOUT = 1

Logo

昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链

更多推荐