1.简介

RKNN官方没有提供YOLOv5模型的验证工具，而YOLOv5自带的验证工具只能验证pytorch、ONNX等常见格式的模型性能，无法运行rknn格式。考虑到YOLOv5模型转换为rknn会有一定的精度损失，但是需要具体数值才能进行评估，所以需要一个可以运行rknn格式的YOLOv5验证工具。

参考目标检测 YOLOv5 - Rockchip rknn模型的测试 包括精度，召回率，mAP等详细信息，这篇文章中的验证工具是基于YOLOv5和RKNN开发环境的旧版本来开发的（YOLOv5 V6.2和rknn-toolkit v1.7.1），无法运行基于YOLOv5 v7.0和rknn-toolkit2 v1.6.0开发的RKNN模型，所以参考这个验证工具里面的RKNN模型的使用方式，和RKNN官方的Python Demo，实现了YOLOv5 V7.0版本的rknn验证工具。

GitHub源码地址：https://github.com/shiyinghan/yolov5_7.0_val_rknn

2.使用方法

2.1 配置RKNN开发环境

参考RKNN-Toolkit2 里面v1.6.0的Quick Start 文档 的第三章“准备开发环境”，安装 RKNN-Toolkit2环境和板端 RKNPU2环境（不确定rknn-toolkit2的其他版本的环境好不好使，工具参考的是rknn-toolkit2的v1.6.0的Python Demo）。
Quick Start 文档 ：01_Rockchip_RKNPU_Quick_Start_RKNN_SDK_V1.6.0_CN.pdf

2.2 配置YOLOv5 V7.0的运行环境

下载YOLOv5的v7.0版本并解压，然后下载yolov5_7.0_val_rknn解压并覆盖YOLOv5原版V7.0的文件夹。最后安装YOLOv5 V7.0需要的python依赖库，这里需要注意上一步配置RKNN开发环境的时候，可能安装一下老版本的python依赖库，直接使用YOLOv5 V7.0的requirements.txt安装依赖库可能出现错误，需要手动指定依赖库的版本。

2.3 设置data文件夹下面的yaml配置文件

为了区分原版的val.py，本验证工具使用的时候，需要指定task为test，所以配置文件也需要指定test目录的路径，如下：

2.4 连接开发板（必须）

本验证工具不支持模拟器运行，需要连接实机进行测试，否则会提示以下错误：

命令行里面target参数也需要配置为对应的参数，这里使用的是RK3568开发板，所以target设置为’RK3568’。

2.5 运行验证工具

命令行如下：

python val_rknn.py --data coco128_rknn.yaml --batch-size 1 --task 'test'  --weights ./yolov5s-int8.rknn --target 'RK3568'  --anchors ./anchors_yolov5.txt

3.运行效果

yolov5s量化版本rknn模型：


yolov5s非量化版本rknn模型：


yolov5s原版pt模型：

4.结论

类型	精度	召回率	mAP50	mAP50-95
pt模型	0.719	0.625	0.714	0.475
RKNN量化版	0.688	0.655	0.699	0.455
RKNN非量化版	0.69	0.631	0.695	0.45

可以看出，对比pt原版模型，转换好的rknn的量化和非量化版本的模型精度和mAP都有一些下降。使用rknn模型的项目中，pt原版模型的性能参数只能作为一个参考，需要实际算出rknn模型的性能参数才行。