全景图像拼接.doc

实验目的：
图像拼接的目的是将有衔接重叠的图像拼成一张高分辨率全景图像，它是计算机视觉、图像处理和计算机图形学等多学科的综合应用技术。图像拼接技术是指将对同一场景、不同角度之间存在相互重叠的图像序列进行图像配准，然后再把图像融合成一张包含各图像信息的高清图像的技术。本实验是根据输入的只有旋转的一系列图像序列，经过匹配，融合后生成一张360度的全景图像。
实验步骤：
下图是实验的流程图，实验大体上分为以下几个步骤：
输入图像序列
输出图像
图像融合
投影到圆柱表面
根据两两匹配求出焦距f
RANSAC特征匹配
Sift描述
特征点检测

=1\*GB3\*MERGEFORMAT①特征点提取和sift描述：角点检测，即通过查看一个小窗口，即可简单的识别角点在角点上，向任何一个方向移动窗口，都会产生灰度的较大变化，，通过R的值的大小来判断是否为角点。H=，，为矩阵的两个特征值。实验中的SIFT描述子是对每个角点周围进行4个区域进行描述，分别是上下左右四个区域，每个方块大小为5*5，然后对每个方块的每个点求其梯度方向。SIFT方向共有8个方向，将每个点的梯度方向做统计，最后归为8个方向中的一个，得到分别得到sift（k,0），sift（k，1）···sift(k,8)，
k为方块序列，0-8为方向，共有四个方块，所以生成32维的向量，然后按幅值大小对这32维向量进行排序，并找出最大的作为主方向。

图为角点检测和sift描述后的图

=2\*GB3\*MERGEFORMAT②．如果直接根据描述子32维向量进行匹配的话，因为噪声的影响，角点检测的不准确，会导致找出一些错误的匹配对，如何去掉这些错误的匹配呢？RANSAC算法是基于特征的图像配准算法中的典型算法，其优点是：可靠、稳定、精度高，对图像噪声和特征点提取不准确，有强健的承受能力，鲁棒性强，并且具有较好的剔出误匹配点的能力，经常被使用在图像特征匹配中。RANSAC的基础是大多数的点是正确的，然后在这些正确的点的基础上找出模型，算出其他点和这模型的误差，以此来判断此点是不是正确点。实验具体做法：因为实验图像只有水平偏移，所以不需要考虑其他方向，在参考图像中的角点中随机选取一点，然后找到待匹配图像中和它SIFT描述子相近的一点，找到这两点后，求出两点的水平坐标之差。然后依此坐标之差为模型，将其他角点根据此模型找到待匹配图像中的相应点，然后算出角点和此点的SSD值，如果距离小于某个阈值内满足的点数很多，那么这个模型就是对的。然后就以此模型找出匹配对，并在图像中标出匹配点。

上图为RANSAC匹配后的结果
=3\*GB3\*MERGEFORMAT③.因为后面得投影到圆柱平面上，所以得先求出焦距。实验的基础是在旋转的过程中，焦距不变。根据实验中的18副图像序列两两匹配

Pi+1

θ
Oi+1

Oi+1

光心

上图为图像I经过角度θ旋转后得到的图像I+1，在图像I中的中心点经过旋转后在图像I+1为点Pi+1，三角形光心OPi+1Oi+1为直角三角形，光心到Oi+1的距离即为焦距f，所以

又因为摄像机旋转一周，所以得到：，此方程可以用

牛顿迭代法进行逼近求其解，本实验中采用的是近似，，即。的值可以通过图像两两匹配求的。具体为：先选取第一幅图像为参考图像，然后用第二幅图像和其匹配，知道了第一幅的图像中心映射到第二幅图像中的具体点，然后求其和第二幅图像中心点的水平坐标差，此差即为值，同理依次求出第二幅和第三幅，第三幅和第四幅····直到第17和第18。然后将这些距离值相加，得到总的偏移量，然后即得到焦距值f。

=4\*GB3\*MERGEFORMAT④将坐标投影到圆柱平面上，由上面的求焦距图中，可以得知，当角度旋转后，同一物体在一幅图像和另一幅图像中离光心点的距离会不一样，因此在不同图像中对应的尺度就会不一样。因此，如果不进行坐标投影的话，两幅图中的同一物体即使匹配点找到了，但由于两幅图中物体尺度不一样，拼出来的图也会产生缝隙或者扭曲变形，所以全景拼接之前得先进行投影变换。

X
Y
Z

(X,Y,Z)
(sinq,h,cosq)

θ
f
x
X，Y，Z为投影前的坐标，为中心偏移量，为图像上的点投影到圆柱平面后，在ZOX平面内投影线和Z轴夹角，s为圆柱半径。

上图为投影后的一个园平面上，x为X相对于参考点O的偏移量，即为投影到圆柱后投影线和Z轴夹角，f为圆柱半径，此处也为焦距。所以有，即x=f*θ，

实验中采用的投影公式为：

W，H分别为图像的宽度和高度，f为相机的焦距，x，y为图像的原来坐标，u，v为投影后的坐标。