基于Qt与OpenCV DNN的YOLOv5桌面端AI视觉应用开发实战

简介：本资源是一套面向计算机、电子信息工程及数学等专业本科生的Qt跨平台YOLOv5部署实践方案，聚焦于利用OpenCV DNN模块调用CUDA后端加速推理，解决课程设计、期末大作业及毕业设计中模型轻量化部署与GUI集成的实际需求。压缩包共38个文件，含3个核心CPP源码（含yolov5.cpp主检测逻辑）、2个头文件、1个UI界面文件、1个Qt项目配置文件（.pro）、1个资源描述文件（.qrc）及1个优化导出的YOLOv5s.ONNX模型，辅以27个ICO图标资源和1份详尽的Markdown说明文档，整体大小为23.27MB。已有514人学习下载，适合具备C++基础、熟悉Qt框架与OpenCV基本操作的学习者参考使用。读者可直接复现带CUDA加速的实时目标检测GUI应用，掌握ONNX模型加载、DNN推理流程封装、Qt信号槽与图像显示联动等关键环节，并基于现有结构快速扩展摄像头/视频流接入、检测结果标注与导出功能。

1. 项目概述：一个桌面端AI视觉应用的完整实现

最近在做一个工业质检的桌面端软件原型，核心需求是把训练好的YOLOv5模型集成进去，实现实时视频流的检测。一开始想用PyTorch直接跑，但发现Python进程的内存管理和C++主程序的交互是个大麻烦，界面响应也受影响。后来转向了OpenCV的DNN模块配合CUDA加速，再套上Qt的界面，实测下来效果非常理想。这个项目就是把这个过程完整实现了一遍，从模型转换、C++推理引擎搭建，到Qt界面的集成与优化，形成了一套可复用的解决方案。如果你也在做类似的事情，比如开发安防监控客户端、智能零售收银系统，或者任何需要在Windows/Linux桌面环境下跑深度学习模型的软件，这套代码和思路应该能给你省下不少折腾的时间。

简单来说，它解决了“如何让训练好的YOLOv5模型，在一个性能足够好、交互足够流畅的C++/Qt桌面应用程序里跑起来”的问题。核心价值在于，它避开了Python在桌面端部署的诸多不便，利用OpenCV DNN这个轻量级、跨平台的推理接口，结合CUDA加速，在保证检测精度的同时，获得了接近原生的执行效率和更低的内存开销。整个项目包（源码+说明文档）就是一个可以直接编译运行的工程，你只需要准备好开发环境，替换成自己的模型，就能快速搭建起一个功能完整的AI视觉应用。

2. 技术选型与架构设计思路

为什么是Qt + OpenCV DNN + CUDA这个组合？这是经过一番对比和踩坑后定下来的方案，每个环节的选择都有其必然性。

2.1 为什么选择Qt作为GUI框架？

首先，目标平台是桌面端（Windows/Linux为主）。Qt几乎是C++领域桌面GUI开发的事实标准，其信号槽机制、丰富的控件库、优秀的跨平台能力（一套代码编译到多个系统）以及成熟的生态（如Qt Creator IDE）都是巨大优势。对于需要嵌入视频显示、绘制检测框、提供复杂参数配置界面的AI应用来说，Qt的QGraphicsView、QPainter以及多线程支持（QThread）用起来非常顺手。相比之下，纯Win32 API或MFC开发效率低，跨平台性差；而像Electron这类Web技术栈，虽然界面漂亮，但内存占用高，对于需要持续进行高强度图像运算的AI应用来说并非最佳选择。

注意：Qt的版本选择很重要。本项目基于Qt 5.15 LTS版本开发，这是一个长期支持版本，稳定性和社区支持都很好。不建议使用Qt 6的早期版本，可能会遇到一些第三方库（如某些OpenCV版本）的兼容性问题。如果你需要Qt 6的新特性，务必确认所有依赖库都已适配。

2.2 为什么用OpenCV DNN而不是PyTorch C++ API或TensorRT？

这是核心的推理引擎选择问题。YOLOv5官方推荐PyTorch，部署时也有PyTorch C++ LibTorch和NVIDIA TensorRT等方案。

1. PyTorch C++ API (LibTorch)：优点是和训练框架无缝衔接，模型加载最方便。但缺点也很明显：动态库体积巨大（动辄1GB以上），增加了软件分发难度；内存管理相对复杂，在长时间运行的桌面应用中容易积累碎片；并且其C++ API的易用性远不如Python。
2. TensorRT：NVIDIA官方的推理优化引擎，性能极致。但它绑定NVIDIA硬件，部署流程复杂（需要模型转换、精度校准、生成引擎文件），且对模型结构的支持有一定限制，定制化模型可能遇到麻烦。
3. OpenCV DNN：这正是我们选择的折中且高效的方案。它的优势在于：
   • 轻量级：作为OpenCV的一个模块，它本身不依赖庞大的深度学习框架，库体积小。
   • 接口统一简洁：一套API可以加载多种格式的模型（ONNX, TensorFlow, Caffe, Darknet等），大大简化了代码。
   • 跨平台与硬件支持：完美支持CPU、CUDA、OpenCL等多种后端，尤其是CUDA加速，能充分利用GPU。
   • 与OpenCV生态无缝集成：图像预处理（缩放、归一化、颜色空间转换）和后处理（NMS、框解码）都可以用高效的OpenCV函数完成，数据无需在多个库间来回拷贝。

我们的路径是：将PyTorch训练的YOLOv5模型导出为ONNX格式，然后由OpenCV DNN加载。ONNX作为一个开放的模型交换格式，是连接训练框架和推理引擎的桥梁。

2.3 整体架构设计

整个应用的架构可以清晰地分为三层：

1. 表示层 (Presentation Layer)：由Qt框架构建。负责提供用户界面，包括主窗口、视频显示控件、按钮、参数配置面板等。它捕获用户操作（如打开视频文件、开始/停止检测）并触发业务逻辑，同时接收来自业务层的检测结果（框、标签、置信度）并进行可视化渲染。
2. 业务逻辑层 (Business Logic Layer)：这是核心。我们构建了一个YOLOv5Detector类。这个类完全独立于Qt，只依赖OpenCV。它的职责是：
   • 加载ONNX模型文件。
   • 配置推理后端（CPU/CUDA）。
   • 对输入的cv::Mat图像进行预处理（Resize, Normalize, 转换Blob）。
   • 调用net.forward()进行前向推理。
   • 对推理输出的复杂数据结构进行解析，应用置信度阈值和非极大值抑制，得到最终的检测框、类别和分数。
   • 提供异步推理接口，以便在单独的线程中运行，不阻塞UI。
3. 数据层 & 硬件层：包括视频流来源（摄像头、视频文件、网络流）、图像数据在内存中的流转，以及底层的CUDA驱动和计算资源。

线程模型是关键。UI线程绝对不能被耗时的推理操作阻塞。因此，我们采用QThread创建一个专用的“推理线程”。UI线程将捕获到的视频帧发送到推理线程的队列中，推理线程不断从队列取帧、检测、然后将结果发送回UI线程进行绘制。这种生产者-消费者模式保证了界面的流畅性。

3. 核心实现细节与关键代码解析

接下来，我们深入到代码层面，看看几个最关键的部分是如何实现的。

3.1 模型准备与转换：从PyTorch到ONNX

YOLOv5官方仓库提供了完善的导出脚本。假设你有一个训练好的模型文件best.pt。

# 在YOLOv5工程目录下 python export.py --weights best.pt --include onnx --imgsz 640 640 --opset 12

关键参数解析：

• --imgsz 640 640: 指定模型输入的固定尺寸。YOLOv5 v6.0+支持动态尺寸，但为了简化OpenCV DNN的处理，这里固定为640x640。OpenCV DNN对动态输入的支持需要额外处理。
• --opset 12: ONNX算子集版本。版本不宜过低（可能缺少某些算子支持），也不宜过高（某些推理引擎可能还未支持）。12是一个广泛兼容的稳定版本。
• --include onnx: 指定导出格式。

导出成功后，你会得到best.onnx文件。一个重要的步骤：建议使用ONNX Runtime或Netron工具打开检查一下这个ONNX模型。确认以下几点：

1. 输入节点的名字（通常为images）和形状（例如[1, 3, 640, 640]，代表批大小1，通道3，高640，宽640）。
2. 输出节点的名字和形状。YOLOv5的输出形状通常是[1, 25200, 85]（基于640输入，3个检测头），其中85=4(框坐标)+1(置信度)+80(COCO类别数)。

这些信息将在C++代码中用到。

3.2 OpenCV DNN加载与CUDA配置

在C++的YOLOv5Detector类的初始化函数中，核心代码如下：

bool YOLOv5Detector::init(const std::string& onnxModelPath, bool useCuda) { // 尝试使用DNN_BACKEND_CUDA和DNN_TARGET_CUDA if (useCuda) { try { cv::cuda::getCudaEnabledDeviceCount(); // 检查CUDA是否可用 net = cv::dnn::readNetFromONNX(onnxModelPath); net.setPreferableBackend(cv::dnn::DNN_BACKEND_CUDA); net.setPreferableTarget(cv::dnn::DNN_TARGET_CUDA); std::cout << "INFO: Using CUDA backend for acceleration." << std::endl; } catch (const cv::Exception& e) { std::cerr << "WARNING: CUDA initialization failed: " << e.what() << ". Falling back to CPU." << std::endl; useCuda = false; } } // 如果CUDA不可用或失败，回退到CPU if (!useCuda) { net = cv::dnn::readNetFromONNX(onnxModelPath); net.setPreferableBackend(cv::dnn::DNN_BACKEND_OPENCV); net.setPreferableTarget(cv::dnn::DNN_TARGET_CPU); std::cout << "INFO: Using CPU backend." << std::endl; } // 获取输入输出层信息 (这里假设输入名是"images"，输出名是"output") // 更严谨的做法是从net.getUnconnectedOutLayersNames()获取 inputName = "images"; // outputNames = net.getUnconnectedOutLayersNames(); // 动态获取 outputNames = {"output"}; // 根据你的ONNX模型输出名调整 inputSize = cv::Size(640, 640); // 与导出时一致 return !net.empty(); }

实操心得：一定要添加CUDA可用性检查并做好回退机制。用户的电脑可能没有NVIDIA GPU，或者CUDA/ cuDNN驱动未正确安装。优雅地回退到CPU模式，总比程序直接崩溃要好。同时，在代码中输出当前使用的后端（CPU/CUDA），便于调试。

3.3 图像预处理与Blob转换

OpenCV DNN的blobFromImage函数负责将图像转换为网络需要的输入Blob格式。这个过程包含了几何变换和数值归一化。

cv::Mat YOLOv5Detector::preprocess(const cv::Mat& frame) { cv::Mat blob; // 1. 保持宽高比进行缩放，并在边缘填充灰色 int maxSize = std::max(inputSize.width, inputSize.height); float scale = std::min((float)maxSize / frame.cols, (float)maxSize / frame.rows); cv::Mat resized; cv::resize(frame, resized, cv::Size(), scale, scale, cv::INTER_LINEAR); int dw = maxSize - resized.cols; int dh = maxSize - resized.rows; int top = dh / 2; int bottom = dh - top; int left = dw / 2; int right = dw - left; cv::copyMakeBorder(resized, resized, top, bottom, left, right, cv::BORDER_CONSTANT, cv::Scalar(114, 114, 114)); // 2. 转换为Blob：缩放像素值到0-1，减去均值(0,0,0)，缩放因子(1/255.0)，不交换R和B通道（因为模型训练时用的是RGB，而OpenCV默认是BGR） // 注意：YOLOv5官方训练时输入是RGB，且归一化是 /255.0。但OpenCV读取是BGR。 // 方案一：先转换颜色空间，再按RGB处理 cv::cvtColor(resized, resized, cv::COLOR_BGR2RGB); cv::dnn::blobFromImage(resized, blob, 1.0 / 255.0, inputSize, cv::Scalar(), true, false, CV_32F); // 方案二（更高效）：直接使用BGR，但调整均值。如果模型是用BGR图训练的，则用此方案。 // cv::dnn::blobFromImage(resized, blob, 1.0 / 255.0, inputSize, cv::Scalar(), true, false, CV_32F); return blob; // 返回 [1, 3, 640, 640] 的4维Mat }

这里有几个极易出错的点：

1. 颜色空间：OpenCV默认读取图像为BGR格式，而大多数PyTorch模型（包括YOLOv5）训练时使用RGB。如果预处理不统一，检测结果会完全错误。上述代码采用了先转换BGR2RGB的方案，这是最稳妥的。
2. 归一化参数：blobFromImage的scalefactor参数是1.0/255.0，意味着将像素值从[0,255]缩放到[0,1]。mean参数是cv::Scalar()，即(0,0,0)，因为我们没有要减去的均值。这些参数必须与模型训练时的预处理完全一致。
3. 尺寸变换：简单的resize会扭曲图像。我们采用了“保持宽高比缩放+边缘填充”的方式，这是目标检测中常见的做法，能减少几何失真。填充色(114,114,114)是YOLOv5官方使用的颜色。

3.4 推理输出解析与后处理

这是整个流程中最复杂的一步。OpenCV DNN的forward输出是一个或多个cv::Mat。对于YOLOv5，输出是一个形状为[1, 25200, 85]的3维矩阵（对于640输入）。我们需要解析它。

std::vector<Detection> YOLOv5Detector::postprocess(const cv::Mat& frame, const std::vector<cv::Mat>& outputs, float confThreshold, float nmsThreshold) { std::vector<Detection> detections; std::vector<int> classIds; std::vector<float> confidences; std::vector<cv::Rect> boxes; // 通常outputs只有一个元素 cv::Mat output = outputs[0]; // 形状: [1, 25200, 85] // 将其重塑为 [25200, 85] 的2维矩阵，便于遍历 cv::Mat detMat = output.reshape(1, output.total() / 85); // 85 = cx,cy,w,h,conf,80 classes for (int i = 0; i < detMat.rows; ++i) { const float* data = detMat.ptr<float>(i); float confidence = data[4]; // 物体置信度 if (confidence < confThreshold) continue; // 找到80个类别中分数最高的 cv::Mat scores = detMat.row(i).colRange(5, 85); cv::Point classIdPoint; double maxClassScore; cv::minMaxLoc(scores, nullptr, &maxClassScore, nullptr, &classIdPoint); float classScore = static_cast<float>(maxClassScore); if (classScore < confThreshold) continue; // 可选的类别置信度阈值 float finalConfidence = confidence * classScore; if (finalConfidence < confThreshold) continue; // 解析中心点坐标和宽高 (相对于640x640输入尺寸) float cx = data[0]; float cy = data[1]; float w = data[2]; float h = data[3]; // 计算框的左上角坐标 (相对于640x640) int left = static_cast<int>((cx - w / 2)); int top = static_cast<int>((cy - h / 2)); int width = static_cast<int>(w); int height = static_cast<int>(h); // 将坐标映射回原始图像尺寸 (需要记录并传入预处理时的缩放和填充信息) // 这里假设有成员变量 scale, padTop, padLeft 记录了预处理信息 left = static_cast<int>((left - padLeft) / scale); top = static_cast<int>((top - padTop) / scale); width = static_cast<int>(width / scale); height = static_cast<int>(height / scale); // 确保框在图像范围内 left = std::max(0, std::min(left, frame.cols - 1)); top = std::max(0, std::min(top, frame.rows - 1)); width = std::max(0, std::min(width, frame.cols - left)); height = std::max(0, std::min(height, frame.rows - top)); classIds.push_back(classIdPoint.x); confidences.push_back(finalConfidence); boxes.push_back(cv::Rect(left, top, width, height)); } // 应用非极大值抑制 (NMS) 去除重叠框 std::vector<int> indices; cv::dnn::NMSBoxes(boxes, confidences, confThreshold, nmsThreshold, indices); std::vector<Detection> finalDetections; for (int idx : indices) { Detection det; det.bbox = boxes[idx]; det.classId = classIds[idx]; det.confidence = confidences[idx]; finalDetections.push_back(det); } return finalDetections; }

后处理的逻辑是：遍历所有25200个先验框，过滤掉置信度低的，找到每个框最可能的类别，计算综合置信度，再将框的坐标从网络输入尺寸（640x640，含填充）映射回原始图像尺寸，最后应用NMS去除冗余框。

3.5 Qt界面集成与多线程通信

在Qt的主窗口类中，我们启动一个QThread作为推理线程。UI线程（主线程）负责采集视频帧（例如通过QTimer定时从QCamera或QVideoProbe获取），然后将帧转换为cv::Mat。

// 在主窗口类中 void MainWindow::processFrame(const cv::Mat& frame) { if (!detectorBusy) { // 简单的锁，防止队列积压 emit frameReadyForInference(frame.clone()); // 发射信号，传递帧的副本 detectorBusy = true; } } // 推理线程的run()函数或槽函数 void InferenceThread::onFrameReceived(const cv::Mat& frame) { std::vector<Detection> detections = detector.detect(frame); emit inferenceFinished(frame, detections); // 发射信号，传回结果 } // 主窗口连接推理完成的信号 connect(inferenceThread, &InferenceThread::inferenceFinished, this, &MainWindow::onInferenceFinished); void MainWindow::onInferenceFinished(const cv::Mat& annotatedFrame, const std::vector<Detection>& detections) { // 将annotatedFrame转换回QImage并显示 detectorBusy = false; // 解锁，准备处理下一帧 // 更新界面上的结果列表等 }

重要提示：cv::Mat默认是浅拷贝。在跨线程传递图像数据时，必须使用.clone()进行深拷贝，否则当原始帧在UI线程中被新数据覆盖时，推理线程正在处理的数据会出错，导致程序崩溃或检测框错乱。这是多线程图像处理中最常见的坑之一。

4. 环境搭建与项目编译实战

纸上得来终觉浅，我们来看看如何把这个项目真正跑起来。假设你拿到的是一个完整的Qt Creator工程包（.pro文件）。

4.1 系统环境准备

1. 安装Qt：从Qt官网下载在线安装器，安装Qt 5.15.2 (MSVC 2019 64-bit) 或更高版本的MinGW套件。确保在安装时勾选对应版本的Qt Creator。
2. 安装OpenCV：
   • Windows (推荐使用预编译库)：从OpenCV官网下载对应版本的Windows包（如opencv-4.8.0-windows.exe）。解压到一个不含中文和空格的路径，例如D:\opencv。里面包含build和sources文件夹，我们需要的是build。
   • Linux：使用包管理器安装，如sudo apt install libopencv-dev，但预编译版本可能不包含CUDA支持。为了CUDA，建议从源码编译OpenCV。
3. 安装CUDA和cuDNN (如需GPU加速)：
   • 从NVIDIA官网下载并安装与你的显卡驱动兼容的CUDA Toolkit（如11.8）。
   • 下载对应版本的cuDNN库，将其bin,include,lib目录下的文件复制到CUDA安装目录下。
   • 关键步骤：编译OpenCV with CUDA。在CMake-GUI中配置OpenCV源码路径和构建路径，勾选WITH_CUDA和OPENCV_DNN_CUDA，指定CUDA路径，然后生成并编译。这会生成支持CUDA的OpenCV库。

4.2 Qt项目配置 (.pro文件)

这是连接所有依赖的核心。你的.pro文件需要正确包含头文件和库路径。

# 示例 .pro 文件片段 QT += core gui multimedia multimediawidgets greaterThan(QT_MAJOR_VERSION, 4): QT += widgets CONFIG += c++17 # 你的OpenCV路径 (根据实际情况修改) win32 { # Windows 下使用MSVC编译器 INCLUDEPATH += "D:/opencv/build/include" DEBUG { LIBS += -L"D:/opencv/build/x64/vc15/lib" \ -lopencv_world480d # Debug库带'd'后缀 } RELEASE { LIBS += -L"D:/opencv/build/x64/vc15/lib" \ -lopencv_world480 } } linux { # Linux 下 CONFIG += link_pkgconfig PKGCONFIG += opencv4 } # 如果使用CUDA，还需要链接CUDA库 (Windows示例) win32: LIBS += -L"C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.8/lib/x64" \ -lcudart -lcudnn -lcublas

4.3 编译与运行

1. 用Qt Creator打开.pro文件。
2. 在Projects面板中，检查Build & Run的Kit是否正确（例如Desktop Qt 5.15.2 MSVC2019 64bit）。
3. 点击Configure Project。
4. 将模型文件best.onnx和类别标签文件coco.names（如果是COCO数据集）复制到构建目录（通常是build-项目名-Desktop_Qt_...-Debug或Release文件夹）。
5. 在代码中，使用相对路径（如./best.onnx）或绝对路径加载模型。
6. 点击运行。如果一切配置正确，程序将启动。首次使用CUDA后端时，可能会有一点延迟用于初始化。

5. 性能优化与调试技巧

项目能跑起来只是第一步，要让它跑得又快又稳，还需要一些优化和调试手段。

5.1 性能优化点

1. 推理批处理：blobFromImage支持批量输入。如果你有多个摄像头或需要同时处理多张图片，可以将它们堆叠成一个Blob（例如形状为[4, 3, 640, 640]），一次性进行推理，这能显著提升GPU利用率。但需要调整后处理逻辑来解析批量结果。
2. 异步推理与流水线：我们实现了基本的UI与推理分离。可以进一步优化为双缓冲或三缓冲流水线：当推理线程在处理第N帧时，UI线程正在准备第N+1帧并发送，同时绘制第N-1帧的结果。这能最大化硬件利用率，减少等待。
3. 降低分辨率：对于实时视频，如果不需要检测非常小的物体，可以将输入分辨率从640降低到416甚至320。这会大幅减少计算量，提升帧率。需要在模型训练和导出时就确定好输入尺寸。
4. FP16精度推理：OpenCV DNN的CUDA后端支持半精度浮点数（FP16）推理。这能进一步减少显存占用并提升速度，尤其适合新一代的GPU。可以在设置后端后尝试：net.setPreferableTarget(cv::dnn::DNN_TARGET_CUDA_FP16);。但需要注意精度可能会有微小损失，需在业务场景中验证。
5. 前处理与后处理优化：图像缩放、颜色转换等操作可以尝试使用OpenCV的UMat（OpenCL加速）或cuda::GpuMat（CUDA加速）来在GPU上完成，避免CPU-GPU之间的数据拷贝。

5.2 常见问题与排查

5.3 调试与日志

在开发过程中，加入详细的日志输出至关重要。

// 定义一个简单的日志宏 #ifdef _DEBUG #define LOG_INFO(msg) std::cout << "[INFO] " << __FUNCTION__ << ": " << msg << std::endl #define LOG_ERROR(msg) std::cerr << "[ERROR] " << __FUNCTION__ << ": " << msg << std::endl #else #define LOG_INFO(msg) #define LOG_ERROR(msg) #endif // 在关键函数中使用 bool YOLOv5Detector::init(...) { LOG_INFO("Initializing detector with model: " + onnxModelPath); // ... if (net.empty()) { LOG_ERROR("Failed to load network from: " + onnxModelPath); return false; } LOG_INFO("Network loaded successfully. Using backend: " + (useCuda? "CUDA" : "CPU")); return true; }

在调试模式下运行，这些日志能帮你快速定位问题发生的阶段。

6. 项目扩展与进阶方向

这个基础框架搭建好后，你可以根据实际需求进行多方面的扩展，让它变得更强大、更实用。

6.1 功能扩展

1. 多模型切换与管理：在界面中添加一个下拉框，允许用户动态加载不同的ONNX模型文件（例如，针对不同检测任务的专用模型）。YOLOv5Detector类可以设计成支持reloadModel()方法。
2. 实时参数调整：将置信度阈值（confThreshold）和NMS阈值（nmsThreshold）做成Qt的滑动条（QSlider），并实时连接到检测器的参数上。这样用户可以在运行中动态调整灵敏度，观察效果。
3. 检测结果记录与导出：将检测到的目标框、类别、置信度和时间戳记录到文件（如CSV或JSON格式）或数据库中。甚至可以添加截图功能，将带有检测框的图片保存下来。
4. 自定义模型集成：本项目不仅限于YOLOv5。任何能导出为ONNX格式的目标检测模型（如YOLOv8, SSD, EfficientDet）都可以用同样的流程集成进来。只需要调整预处理、后处理中的参数（如锚框、输出维度解析）即可。
5. 添加分类或分割功能：OpenCV DNN同样支持分类和分割模型。你可以扩展框架，使其成为一个多功能的视觉推理平台。

6.2 部署与分发

当开发完成后，你需要将软件分发给最终用户。

1. 动态编译与依赖打包：在Qt Creator中，使用Release模式构建。然后，使用windeployqt（Windows）或linuxdeployqt（Linux）工具自动收集所有Qt运行时库。你还需要手动将OpenCV的DLL（opencv_world480.dll等）和CUDA运行时库（cudart64_110.dll,cudnn64_8.dll等）复制到可执行文件同级目录。
2. 制作安装包：使用NSIS、Inno Setup或InstallShield等工具，将可执行文件、模型文件、依赖库和必要的配置文件打包成一个专业的安装程序。
3. 考虑无GPU环境：在安装包中提供CPU和GPU两种版本的依赖库，或者制作一个环境检测工具，在安装时自动选择并配置。

6.3 针对特定硬件的优化

如果你目标部署在特定的边缘设备上（如Jetson系列、RK3568等），流程会有所不同。

1. 模型转换：通常需要将ONNX模型转换为该平台专用的格式，如NVIDIA TensorRT（.engine）、Rockchip RKNN（.rknn）等。这些转换工具能针对硬件进行极致优化。
2. 推理引擎替换：在C++代码中，需要调用对应的硬件SDK（如TensorRT C++ API, RKNN API）来加载和运行转换后的模型，替代OpenCV DNN。
3. 预处理加速：边缘设备的CPU能力有限，图像预处理（缩放、颜色转换）也应尽量放在GPU或NPU上完成。这些SDK通常提供了高效的数据处理接口。

这个基于Qt和OpenCV DNN的项目，为你提供了一个清晰、灵活且高性能的桌面端AI视觉应用开发起点。它验证了从训练模型到实际可运行软件的全链路可行性。当你熟悉了整个流程后，替换模型、优化性能、增加功能都将变得有章可循。在实际开发中，最花时间的往往不是核心算法，而是这些工程化的细节：跨线程数据安全、内存管理、异常处理、用户体验。希望这份详细的拆解，能让你在开发自己的项目时，少走些弯路。

本文还有配套的精品资源，点击获取