OpenCV开发笔记（七十九）：基于Stitcher类实现全景图片拼接

news2024/9/25 9:39:00

若该文为原创文章，转载请注明原文出处
本文章博客地址：https://hpzwl.blog.csdn.net/article/details/141561865

长沙红胖子Qt（长沙创微智科）博文大全：开发技术集合（包含Qt实用技术、树莓派、三维、OpenCV、OpenGL、ffmpeg、OSG、单片机、软硬结合等等）持续更新中…

OpenCV开发专栏（点击传送门）

上一篇：《OpenCV开发笔记（七十八）：在ubuntu上搭建opencv+python开发环境以及匹配识别Demo》
下一篇：持续补充中…

前言

一个摄像头视野不大的时候，我们希望进行两个视野合并，这样让正视的视野增大，从而可以看到更广阔的标准视野。拼接的方法分为两条路，第一条路是stitcher类，第二条思路是特征点匹配。
本篇使用stitcher匹配，进行两张图来视野合并拼接。

Demo

在这里插入图片描述

两张图拼接过程

步骤一：打开图片

在这里插入图片描述

cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");
cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");

步骤二：加入图片进入队列

在这里插入图片描述

std::vector<cv::Mat> vectorMat;
vectorMat.push_back(mat);
vectorMat.push_back(mat2);

步骤三：创建拼接类

在这里插入图片描述

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);

步骤四：拼接

在这里插入图片描述

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);
LOG;
cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);
LOG;
if(status != cv::Stitcher::OK)
{
    std::cout << "Failed to stitch, status =" << status << std::endl;
    return;
}

对拼接后显示所有：
在这里插入图片描述

cv::namedWindow("mat", cv::WINDOW_NORMAL);
cv::imshow("mat", mat);
cv::resizeWindow("mat", cv::Size(400, 300));

cv::namedWindow("mat2", cv::WINDOW_NORMAL);
cv::imshow("mat2", mat2);
cv::resizeWindow("mat2", cv::Size(400, 300));

cv::namedWindow("resultMat", cv::WINDOW_NORMAL);
cv::imshow("resultMat", resultMat);
cv::resizeWindow("resultMat", cv::Size(400, 300));

步骤五：对图像进行宽高黑边裁剪（略）

直接写个算法对周边黑色区域进行矩形探测，然后裁剪即可，方法很多，一般我们拍照的图片都不是全黑的，而黑边是全黑的，这个算法写起来有明显的特征。

耗时测试

原始图像1701x1280像素，耗时477ms左右

在这里插入图片描述

原始图片1701x1280像素，拼接消耗的时间约477ms：

图像缩小至400x300像素，耗时390ms左右

然后对其图片进行缩放后测试其耗时：
在这里插入图片描述

在这里插入图片描述

将图片统一缩放为800x600分辨率，其拼接耗时在390ms左右。

图像放大至1920x1080像素，耗时530ms左右

在这里插入图片描述

将图片放大至1920x1080分辨率，其拼接耗时在530ms左右

注意

本次测试并不严谨，基于同样图的缩放，单纯控制像素缩放来比较，但是得出的结论可以反应图像大小的影响，最终的耗时是受多方因素影响，包括但不限于检测特征电的数量、重叠区域的大小、像素分辨率、多图。

结论

这种方式适合对照片进行拼接，对黑边处理之后，效果很不错，但是，调用stitcher类实现时对图片的特征匹配有要求，一些特征点不够的图片无法拼接，并且，当图片较大或多张图片拼接时，速度慢。所以，倘若放到视频上，一秒钟25-60fps，那就肯定不行了。
SIFT算法拼接，SIFT算法可以提供较高的准确率，得到的图片需要经过再次处理，才能得到相对较好的图片，
ORB算法拼接，算法的速度非常快，但是最容易出现问题，且得到的图片需要经过再次处理，才能得到相对较好的图片，

函数原型

函数cv::Stitcher::create

static Ptr<Stitcher> create(Mode mode = PANORAMA, bool try_use_gpu = false);

参数一：拼接模式枚举，只有2个值PANORAMA和SCANS
PANORAMA：创建照片全景的模式，期望图像处于透视状态；
SCANS：合成扫描的模式。期望仿射变换下的图像，默认情况下不补偿曝光。（由于咱们一般总归有角度偏移，所以这个方式对拼接图像有较高要求）
参数二：是否使用gpu，这种方式编译opencv得带上gpu编译，编译opencv的时候开启支持gpu，在arm上的话，需要先确认芯片是否支持GPU，然后安装GPU驱动，然后编译opencv支持GPU选项，才可以。

函数cv::Stitcher:: stitch

CV_WRAP Status stitch(InputArrayOfArrays images, OutputArray pano);

参数一：输入图像列表
参数二：输出拼接结果

Status stitch(InputArrayOfArrays images, const std::vector<std::vector<Rect> > &rois, OutputArray pano);

参数一：输入图像列表
参数二：输入图像列表依次需要拼接的区域
参数三：输出拼接结果

Demo源码

void OpenCVManager::testStitchImages()
{
    cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");

#if 0
    // 拼接环视全景，特征点是完全不够，无法使用该方法，同时就算能拼也无法达到新能要求
    cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/front_2024-08-22_17-15-08_result.png");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/left_2024-08-22_17-15-10_result.png");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/right_2024-08-22_17-15-11_result.png");
#endif

#if 1
    // 对图片进行缩放，测试其拼接耗时
    cv::resize(mat, mat, cv::Size(1920, 1080));
    cv::resize(mat2, mat2, cv::Size(1920, 1080));
#endif

    std::vector<cv::Mat> vectorMat;
    vectorMat.push_back(mat);
    vectorMat.push_back(mat2);


    cv::Mat resultMat;

    cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//    cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);
    LOG;
    cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);
    LOG;
    if(status != cv::Stitcher::OK)
    {
        std::cout << "Failed to stitch, status =" << status << std::endl;
        return;
    }


    cv::namedWindow("mat", cv::WINDOW_NORMAL);
    cv::imshow("mat", mat);
    cv::resizeWindow("mat", cv::Size(400, 300));

    cv::namedWindow("mat2", cv::WINDOW_NORMAL);
    cv::imshow("mat2", mat2);
    cv::resizeWindow("mat2", cv::Size(400, 300));

    cv::namedWindow("resultMat", cv::WINDOW_NORMAL);
    cv::imshow("resultMat", resultMat);
    cv::resizeWindow("resultMat", cv::Size(400, 300));

    cv::waitKey(0);
}