小言_互联网的博客

智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》

479人阅读  评论(0)

智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》

目录

智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》

1. 前言

2. 车牌检测模型(YOLOv5)

(1) 将Pytorch模型转换ONNX模型

(2) 将ONNX模型转换为TNN模型

3. 车牌识别模型(PlateNet)

(1) 将Pytorch模型转换ONNX模型

(2) 将ONNX模型转换为TNN模型

4. 车牌检测和识别C++端上部署

(1) 项目结构

(2) 配置开发环境(OpenCV+OpenCL+base-utils+TNN)

(3) 部署TNN模型

(4)CMake配置

(5)main源码

(6)源码编译和运行

5. 车牌检测和识别效果

6. 项目源码下载


1. 前言

这是项目《智能驾驶 车牌检测和识别》系列之《C++实现车牌检测和识别(可实时车牌识别)》;本项目将开发一个C/C++版本的车牌检测和识别,其中车牌检测算法采用YOLOv5模型,车牌识别算法采用PlateNet模型;车牌检测和识别Demo在OpenCL加速下,可以达到实时的检测和识别效果,基本满足业务的性能需求。

车牌识别Demo效果展示:

【 整套项目下载地址】:智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》

【Android Demo体验】Android实现车牌检测和识别-Android文档类资源-CSDN下载

【尊重原创,转载请注明出处】 智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》:https://blog.csdn.net/guyuealian/article/details/128704276


 更多项目《智能驾驶 车牌检测和识别》系列文章请参考:

  1. 智能驾驶 车牌检测和识别(一)《CCPD车牌数据集》:https://blog.csdn.net/guyuealian/article/details/128704181
  2. 智能驾驶 车牌检测和识别(二)《YOLOv5实现车牌检测(含车牌检测数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704068
  3. 智能驾驶 车牌检测和识别(三)《CRNN和LPRNet实现车牌识别(含车牌识别数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704209
  4. 智能驾驶 车牌检测和识别(四)《Android实现车牌检测和识别(可实时车牌识别)》:https://blog.csdn.net/guyuealian/article/details/128704242
  5. 智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》:https://blog.csdn.net/guyuealian/article/details/128704276
  6. 智能驾驶 红绿灯检测(一)《红绿灯(交通信号灯)数据集》:https://blog.csdn.net/guyuealian/article/details/128222850
  7. 智能驾驶 红绿灯检测(二)《YOLOv5实现红绿灯检测(含红绿灯数据集+训练代码)》:https://blog.csdn.net/guyuealian/article/details/128240198
  8. 智能驾驶 红绿灯检测(三)《Android实现红绿灯检测(含Android源码 可实时运行)》:https://blog.csdn.net/guyuealian/article/details/128240334
  9. 智能驾驶 车辆检测(一)《UA-DETRAC BITVehicle车辆检测数据集》:https://blog.csdn.net/guyuealian/article/details/127907325

  10. 智能驾驶 车辆检测(二)《YOLOv5实现车辆检测(含车辆检测数据集+训练代码)》:https://blog.csdn.net/guyuealian/article/details/128099672

  11. 智能驾驶 车辆检测(三)《Android实现车辆检测(含Android源码 可实时运行)》:https://blog.csdn.net/guyuealian/article/details/128190532


2. 车牌检测模型(YOLOv5)

车牌检测模型训练过程,请参考:智能驾驶 车牌检测和识别(二)《YOLOv5实现车牌检测(含车牌检测数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704068

为了能部署在开发板或者手机平台上,本人对YOLOv5s进行了简单的模型轻量化,并开发了一个轻量级的版本yolov5s05_416和yolov5s05_320模型;轻量化模型在普通Android手机上可以达到实时的检测效果,CPU(4线程)约30ms左右,GPU约25ms左右 ,基本满足业务的性能需求。下表格给出轻量化模型的计算量和参数量以及其检测精度

模型 input-size params(M) GFLOPs mAP_0.5:0.95
yolov5s 640×640 7.2 16.5 0.75261
yolov5s05 416×416 1.7 1.8 0.74593
yolov5s05 320×320 1.7 1.1 0.74341

车牌检测效果:

 YOLOv5车牌检测模型在C++端上部署过程,请参考如下

(1) 将Pytorch模型转换ONNX模型

训练好yolov5s05或者yolov5s模型后,你需要将模型转换为ONNX模型,并使用onnx-simplifier简化网络结构


  
  1. # 转换yolov5s05模型
  2. python export.py --weights "runs/yolov5s05_320/weights/best.pt" --img-size 320 320
  3. # 转换yolov5s模型
  4. python export.py --weights "runs/yolov5s_640/weights/best.pt" --img-size 640 640

GitHub: https://github.com/daquexian/onnx-simplifier
Install:  pip3 install onnx-simplifier 

(2) 将ONNX模型转换为TNN模型

目前CNN模型有多种部署方式,可以采用TNN,MNN,NCNN,以及TensorRT等部署工具,鄙人采用TNN进行Android端上部署:

TNN转换工具:


3. 车牌识别模型(PlateNet)

车牌识别模型训练过程,请参考 智能驾驶 车牌检测和识别(三)《CRNN和LPRNet实现车牌识别(含车牌识别数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704209

项目基于CRNN或LPRNet模型构建车牌识别算法,支持绿牌和蓝牌识别;为方便后续工程化,项目对CRNN模型进行魔改,提出一个PlateNet模型,用于支持部署到Android平台或者开发板上

整套智能车牌检测和识别系统,在OpenCL加速下,可以达到实时的检测效果,基本满足业务的性能需求。下表格给出CRNN,LPRNet和PlateNet模型的计算量和参数量以及其车牌识别的准确率:

模型 input-size params(M) GFLOPs Accuracy
LPRNet 94×24 0.48M 0.147GFlops 0.9393
CRNN 160×32 8.35M 1.06GFlops 0.9343
PlateNet 168×48 1.92M 1.25GFlops 0.9583

车牌识别Demo效果展示:

 PlateNet车牌识别模型在C++端上部署过程,请参考如下

(1) 将Pytorch模型转换ONNX模型

车牌识别项目源码demo.py文件中参数--export设置为True,可将Pytorch的模型转换为ONNX模型文件,且ONNX文件会默认保存在Pytorch的模型文件同一目录下。

(2) 将ONNX模型转换为TNN模型

TNN转换工具,请参考:


4. 车牌检测和识别C++端上部署

(1) 项目结构

(2) 配置开发环境(OpenCV+OpenCL+base-utils+TNN)

项目仅在Ubuntu18.04进行测试,Windows系统下请自行配置和编译

  • 安装OpenCV:图像处理

图像处理(如读取图片,图像裁剪等)都需要使用OpenCV库进行处理

安装教程:Ubuntu18.04安装opencv和opencv_contrib_AI吃大瓜的博客-CSDN博客_opencv opencv_contrib ubuntu

OpenCV库使用opencv-4.3.0版本,opencv_contrib库暂时未使用,可不安装

  • 安装OpenCL:模型加速

 安装教程:Ubuntu16.04 安装OpenCV&OpenCL_xiaozl_284的博客-CSDN博客_clinfo源码下载

OpenCL用于模型GPU加速,若不使用OpenCL进行模型推理加速,纯C++推理模型,速度会特别特别慢

  • base-utils:C++库

GitHub:https://github.com/PanJinquan/base-utils (无需安装,项目已经配置了)

base_utils是个人开发常用的C++库,集成了C/C++ OpenCV等常用的算法

  • TNN:模型推理

GitHub:https://github.com/Tencent/TNN (无需安装,项目已经配置了)

由腾讯优图实验室开源的高性能、轻量级神经网络推理框架,同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。TNN框架在原有Rapidnet、ncnn框架的基础上进一步加强了移动端设备的支持以及性能优化,同时借鉴了业界主流开源框架高性能和良好拓展性的特性,拓展了对于后台X86, NV GPU的支持。手机端 TNN已经在手机QQ、微视、P图等众多应用中落地,服务端TNN作为腾讯云AI基础加速框架已为众多业务落地提供加速支持。

(3) 部署TNN模型

项目实现了C/C++版本的车牌检测和车牌识别,车牌检测模型YOLOv5和车牌识别模型PlateNet,模型推理采用TNN部署框架(支持多线程CPU和GPU加速推理);图像处理采用OpenCV库,模型加速采用OpenCL,在普通设备即可达到实时处理。

如果你想在这个 Demo部署你自己训练的车牌检测模型YOLOv5和车牌识别模型PlateNet,你可将训练好的Pytorch模型转换ONNX ,再转换成TNN模型,然后把原始的模型替换成你自己的TNN模型即可。

(4)CMake配置

这是CMakeLists.txt,其中主要配置OpenCV+OpenCL+base-utils+TNN这四个库,Windows系统下请自行配置和编译


  
  1. cmake_minimum_required(VERSION 3.5)
  2. project(Detector)
  3. add_compile_options(-fPIC) # fix Bug: can not be used when making a shared object
  4. set(CMAKE_CXX_FLAGS "-Wall -std=c++11 -pthread")
  5. #set(CMAKE_CXX_FLAGS_RELEASE "-O2 -DNDEBUG")
  6. #set(CMAKE_CXX_FLAGS_DEBUG "-g")
  7. if (NOT CMAKE_BUILD_TYPE AND NOT CMAKE_CONFIGURATION_TYPES)
  8. # -DCMAKE_BUILD_TYPE=Debug
  9. # -DCMAKE_BUILD_TYPE=Release
  10. message(STATUS "No build type selected, default to Release")
  11. set(CMAKE_BUILD_TYPE "Release" CACHE STRING "Build type (default Debug)" FORCE)
  12. endif ()
  13. # opencv set
  14. find_package(OpenCV REQUIRED)
  15. include_directories( ${OpenCV_INCLUDE_DIRS} ./src/)
  16. #MESSAGE(STATUS "OpenCV_INCLUDE_DIRS = ${OpenCV_INCLUDE_DIRS}")
  17. # base_utils
  18. set(BASE_ROOT 3rdparty/base-utils) # 设置base-utils所在的根目录
  19. add_subdirectory( ${BASE_ROOT}/base_utils/ base_build) # 添加子目录到build中
  20. include_directories( ${BASE_ROOT}/base_utils/include)
  21. include_directories( ${BASE_ROOT}/base_utils/src)
  22. MESSAGE(STATUS "BASE_ROOT = ${BASE_ROOT}")
  23. # TNN set
  24. # Creates and names a library, sets it as either STATIC
  25. # or SHARED, and provides the relative paths to its source code.
  26. # You can define multiple libraries, and CMake builds it for you.
  27. # Gradle automatically packages shared libraries with your APK.
  28. # build for platform
  29. if (CMAKE_SYSTEM_NAME MATCHES "Android")
  30. set(TNN_OPENCL_ENABLE ON CACHE BOOL "" FORCE)
  31. set(TNN_ARM_ENABLE ON CACHE BOOL "" FORCE)
  32. set(TNN_BUILD_SHARED OFF CACHE BOOL "" FORCE)
  33. set(TNN_OPENMP_ENABLE ON CACHE BOOL "" FORCE) # Multi-Thread
  34. #set(TNN_HUAWEI_NPU_ENABLE OFF CACHE BOOL "" FORCE)
  35. add_definitions(-DTNN_OPENCL_ENABLE) # for OpenCL GPU
  36. add_definitions(-DTNN_ARM_ENABLE) # for Android CPU
  37. add_definitions(-DDEBUG_ANDROID_ON) # for Android Log
  38. add_definitions(-DPLATFORM_ANDROID)
  39. elseif (CMAKE_SYSTEM_NAME MATCHES "Linux")
  40. set(TNN_OPENCL_ENABLE ON CACHE BOOL "" FORCE)
  41. set(TNN_CPU_ENABLE ON CACHE BOOL "" FORCE)
  42. set(TNN_X86_ENABLE OFF CACHE BOOL "" FORCE)
  43. set(TNN_QUANTIZATION_ENABLE OFF CACHE BOOL "" FORCE)
  44. set(TNN_OPENMP_ENABLE OFF CACHE BOOL "" FORCE) # Multi-Thread
  45. add_definitions(-DTNN_OPENCL_ENABLE) # for OpenCL GPU
  46. add_definitions(-DDEBUG_ON) # for WIN/Linux Log
  47. add_definitions(-DDEBUG_LOG_ON) # for WIN/Linux Log
  48. add_definitions(-DDEBUG_IMSHOW_OFF) # for OpenCV show
  49. add_definitions(-DPLATFORM_LINUX)
  50. elseif (CMAKE_SYSTEM_NAME MATCHES "Windows")
  51. set(TNN_OPENCL_ENABLE ON CACHE BOOL "" FORCE)
  52. set(TNN_CPU_ENABLE ON CACHE BOOL "" FORCE)
  53. set(TNN_X86_ENABLE ON CACHE BOOL "" FORCE)
  54. set(TNN_QUANTIZATION_ENABLE OFF CACHE BOOL "" FORCE)
  55. set(TNN_OPENMP_ENABLE ON CACHE BOOL "" FORCE) # Multi-Thread
  56. add_definitions(-DTNN_OPENCL_ENABLE) # for OpenCL GPU
  57. add_definitions(-DDEBUG_ON) # for WIN/Linux Log
  58. add_definitions(-DDEBUG_LOG_ON) # for WIN/Linux Log
  59. add_definitions(-DDEBUG_IMSHOW_OFF) # for OpenCV show
  60. add_definitions(-DPLATFORM_WINDOWS)
  61. endif ()
  62. set(TNN_ROOT 3rdparty/TNN)
  63. #set(TNN_ROOT 3rdparty/TNN-latest)
  64. include_directories( ${TNN_ROOT}/include)
  65. include_directories( ${TNN_ROOT}/third_party/opencl/include)
  66. add_subdirectory( ${TNN_ROOT}) # 添加外部项目文件夹
  67. set(TNN -Wl,--whole-archive TNN -Wl,--no-whole-archive) # set TNN library
  68. MESSAGE(STATUS "TNN_ROOT = ${TNN_ROOT}")
  69. # Detector
  70. include_directories(src)
  71. set(SRC_LIST
  72. src/crnn.cpp
  73. src/yolov5.cpp
  74. src/Interpreter.cpp)
  75. add_library(dmcv SHARED ${SRC_LIST})
  76. target_link_libraries(dmcv
  77. ${TNN}
  78. ${OpenCV_LIBS}
  79. base_utils)
  80. MESSAGE(STATUS "DIR_SRCS = ${SRC_LIST}")
  81. add_executable(demo src/main_for_crnn.cpp)
  82. target_link_libraries(demo dmcv -lpthread)

(5)main源码

主程序中函数main_for_detect_plate()实现车牌检测+车牌识别的过程,函数main_for_plate()仅仅包含车牌识别,没有车牌检测


  
  1. //
  2. // Created by on 2020/6/24.
  3. //
  4. #include "crnn.h"
  5. #include <iostream>
  6. #include <string>
  7. #include <vector>
  8. #include "file_utils.h"
  9. #include "yolov5.h"
  10. using namespace dl;
  11. using namespace vision;
  12. using namespace std;
  13. void main_for_plate() {
  14. const int num_thread = 1;
  15. // 选择运行设备:GPU or CPU
  16. DeviceType device = GPU;
  17. // 初始化识别模型
  18. const char *model_file = ( char *) "../data/tnn/plate/platenet.tnnmodel";
  19. const char *proto_file = ( char *) "../data/tnn/plate/platenet.tnnproto";
  20. CRNNRecognizeParam classifier_param = CRNN_MODEL;
  21. CRNNRecognize *recognize = new CRNNRecognize(model_file,
  22. proto_file,
  23. classifier_param,
  24. num_thread,
  25. device);
  26. // 测试图片路径
  27. string image_dir = "../data/test_image/plate";
  28. std::vector<string> image_list = get_files_list(image_dir);
  29. for (string image_path:image_list) {
  30. // 读取图片(不进行车牌检测)
  31. cv::Mat bgr_image = cv:: imread(image_path);
  32. int w = bgr_image.cols;
  33. int h = bgr_image.rows;
  34. if (bgr_image. empty()) continue;
  35. FrameInfo resultInfo;
  36. ObjectInfo info;
  37. info.x1 = 0;
  38. info.y1 = 0;
  39. info.x2 = w;
  40. info.y2 = h;
  41. info.score = 1.0;
  42. resultInfo.info. push_back(info);
  43. // 开始识别
  44. recognize-> detect(bgr_image, &resultInfo);
  45. // 显示结果
  46. recognize-> visualizeResult(bgr_image, &resultInfo);
  47. }
  48. delete recognize;
  49. recognize = nullptr;
  50. printf( "FINISHED.\n");
  51. }
  52. void main_for_detect_plate() {
  53. const int num_thread = 1;
  54. // 选择运行设备:GPU or CPU
  55. DeviceType device = GPU;
  56. //string det_proto_file = "../data/tnn/yolov5/yolov5s_640.sim.tnnproto";
  57. //string det_model_file = "../data/tnn/yolov5/yolov5s_640.sim.tnnmodel";
  58. //YOLOv5Param yolOv5Param = YOLOv5s_640;//模型参数
  59. string det_proto_file = "../data/tnn/yolov5/yolov5s05_416.sim.tnnproto";
  60. string det_model_file = "../data/tnn/yolov5/yolov5s05_416.sim.tnnmodel";
  61. YOLOv5Param yolOv5Param = YOLOv5s05_416; //模型参数
  62. //string det_proto_file = "../data/tnn/yolov5/yolov5s05_320.sim.tnnproto";
  63. //string det_model_file = "../data/tnn/yolov5/yolov5s05_320.sim.tnnmodel";
  64. //YOLOv5Param yolOv5Param = YOLOv5s05_320;//模型参数
  65. // 初始化检测模型
  66. const float scoreThresh = 0.3;
  67. const float iouThresh = 0.2;
  68. YOLOv5 *detector = new YOLOv5(det_model_file,
  69. det_proto_file,
  70. yolOv5Param,
  71. num_thread,
  72. device);
  73. // 初始化识别模型
  74. const char *model_file = ( char *) "../data/tnn/plate/platenet.tnnmodel";
  75. const char *proto_file = ( char *) "../data/tnn/plate/platenet.tnnproto";
  76. CRNNRecognizeParam classifier_param = CRNN_MODEL;
  77. CRNNRecognize *recognize = new CRNNRecognize(model_file,
  78. proto_file,
  79. classifier_param,
  80. num_thread,
  81. device);
  82. string image_dir = "../data/test_image/plate_car";
  83. std::vector<string> image_list = get_files_list(image_dir);
  84. for (string image_path:image_list) {
  85. // 读取图片
  86. cv::Mat bgr_image = cv:: imread(image_path);
  87. if (bgr_image. empty()) continue;
  88. FrameInfo resultInfo;
  89. // 开始检测
  90. detector-> detect(bgr_image, &resultInfo, scoreThresh, iouThresh);
  91. // 开始识别
  92. recognize-> detect(bgr_image, &resultInfo);
  93. // 显示结果
  94. recognize-> visualizeResult(bgr_image, &resultInfo);
  95. }
  96. delete recognize;
  97. recognize = nullptr;
  98. delete detector;
  99. detector = nullptr;
  100. printf( "FINISHED.\n");
  101. }
  102. int main() {
  103. // 车牌检测+车牌识别
  104. main_for_detect_plate();
  105. // 车牌识别
  106. //main_for_plate();
  107. return 0;
  108. }

(6)源码编译和运行

编译脚本,或者直接:bash build.sh


  
  1. #!/usr/bin/env bash
  2. if [ ! -d "build/" ]; then
  3. mkdir "build"
  4. else
  5. echo "exist build"
  6. fi
  7. cd build
  8. cmake ..
  9. make -j4
  10. sleep 1
  11. ./demo
  • 如果你要测试CPU运行的性能,请修改src/main_for_crnn.cpp

DeviceType device = CPU;

  • 如果你要测试GPU运行的性能,请修改src/main_for_crnn.cpp (需配置好OpenCL) 

DeviceType device = GPU;

 下面截图给出开启OpenCL加速的性能对比截图,纯C++推理模式需要耗时几秒的时间,而开启OpenCL加速后,GPU模式耗时仅需十几毫秒,性能极大的提高。

CPU
GPU

5. 车牌检测和识别效果

 C++版本的opencv不支持中文显示,暂时未解决这个BUG,不过LOG会打印车牌的信息,凑合的用吧

下图GIF这是Python版本的车牌检测和识别效果,C++版本与Python版本的结果几乎是一致


6. 项目源码下载

【车牌检测和识别C/C++源码下载】智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》

整套项目源码内容包含:

  1. 提供YOLOv5车牌检测模型:包含快速版yolov5s05车牌检测模型,在普通手机可实时检测识别,CPU(4线程)约30ms左右,GPU约25ms左右;包含高精度版本yolov5s车牌检测模型,CPU(4线程)约250ms左右,GPU约100ms左右
  2. 提供PlateNet车牌识别模型:支持蓝牌和绿牌车牌识别
  3. C++源码支持CPU和GPU,GPU模型加速需要配置好OpenCL,否则速度很慢

如果你想体验一下车牌检测和识别效果,可下载Android版本进行测试,Android和C++版本的车牌检测和识别核心算法是一样的

 更多项目《智能驾驶 车牌检测和识别》系列文章请参考: 

  1.  智能驾驶 车牌检测和识别(一)《CCPD车牌数据集》:https://blog.csdn.net/guyuealian/article/details/128704181
  2. 智能驾驶 车牌检测和识别(二)《YOLOv5实现车牌检测(含车牌检测数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704068
  3. 智能驾驶 车牌检测和识别(三)《CRNN和LPRNet实现车牌识别(含车牌识别数据集和训练代码)》:https://blog.csdn.net/guyuealian/article/details/128704209
  4. 智能驾驶 车牌检测和识别(四)《Android实现车牌检测和识别(可实时车牌识别)》:https://blog.csdn.net/guyuealian/article/details/128704242
  5. 智能驾驶 车牌检测和识别(五)《C++实现车牌检测和识别(可实时车牌识别)》:https://blog.csdn.net/guyuealian/article/details/128704276


转载:https://blog.csdn.net/guyuealian/article/details/128704276
查看评论
* 以上用户言论只代表其个人观点,不代表本网站的观点或立场