发明名称 一种基于立体视觉的实拍低纹理图像重建方法
摘要 一种基于双目立体视觉的实拍低纹理图像重构方法,其实现步骤为:(1)使用两台摄像机从两个合适角度同时各拍摄一幅图像,取其中一幅为基准图像,另外一幅为配准图像;(2)分别对两台摄像机的内、外参数矩阵进行标定;(3)根据标定数据进行对极线校正、图像变换及高斯滤波;(4)为矫正后的两幅图像中每一点计算其自适应多边形支撑窗口,计算像素点的匹配度,得到视差空间图;(5)在全图范围内逐像素执行树形动态规划算法来完成稠密匹配;(6)采用左右一致性准则提取错误匹配点,并进行视差校正得到最终视差图;(7)根据标定数据和匹配关系计算图像上实际物点的三维坐标,从而重建出物体的三维点云。
申请公布号 CN101887589B 申请公布日期 2012.05.02
申请号 CN201010201709.X 申请日期 2010.06.13
申请人 东南大学 发明人 达飞鹏;邵静
分类号 G06T11/00(2006.01)I;G06T7/00(2006.01)I 主分类号 G06T11/00(2006.01)I
代理机构 南京苏高专利商标事务所(普通合伙) 32204 代理人 柏尚春
主权项 1.一种基于立体视觉的实拍低纹理图像重建方法,其特征在于该重建方法依次含有下列步骤:步骤1:图像获取使用双目摄像机获取图像,首先调整双目摄像机使其光轴基本平行并使左右镜角度处于合适的位置,然后同时各拍摄一幅图像,其中左镜头拍摄的为左图像,右镜头拍摄的为右图像;步骤2:摄像机标定分别对两台摄像机进行标定,获得各自的内参数矩阵A<sub>L</sub>、A<sub>R</sub>和外参数矩阵[R<sub>L</sub> t<sub>L</sub>]、[R<sub>R</sub> t<sub>R</sub>];步骤3:对极线几何校正及图像变换采用步骤2得到的内外参数矩阵运用极线校正方法对所拍摄的左右图像进行极线校正得到平行式双目视觉模型,使匹配像素对处于同一扫描线上;步骤4:计算视差空间图,步骤5:树形动态规划完成稠密匹配:以像素点p<sub>x,y</sub>为基准,用箭头表示一种前驱后继关系,箭头从前驱节点出发指向后继节点;在以y为纵坐标的图像行上从最左边的像素点开始用箭头指向其右边像素点直到p<sub>x,y</sub>,从最右边的像素点开始用箭头指向其左边的像素点直到p<sub>x,y</sub>,然后在以x为横坐标的图像列上从最上边的像素点开始用箭头指向其下方的像素点直到p<sub>x,y</sub>,从最下面的像素点开始用箭头指向其上方的像素点直到p<sub>x,y</sub>;这样就构造了以像素点p<sub>x,y</sub>为根节点的树,在根节点为p<sub>x,y</sub>的树上用传统动态规划算法搜索匹配路径来最优化能量函数<maths num="0001"><![CDATA[<math><mrow><mi>E</mi><mrow><mo>(</mo><msub><mi>p</mi><mrow><mi>x</mi><mo>,</mo><mi>y</mi></mrow></msub><mo>,</mo><mi>d</mi><mo>)</mo></mrow><mo>=</mo><mi>m</mi><mrow><mo>(</mo><msub><mi>p</mi><mrow><mi>x</mi><mo>,</mo><mi>y</mi></mrow></msub><mo>,</mo><mi>d</mi><mo>)</mo></mrow><mo>+</mo><munder><mi>&Sigma;</mi><mrow><mi>q</mi><mo>&Element;</mo><mi>sub</mi><mrow><mo>(</mo><msub><mi>p</mi><mrow><mi>x</mi><mo>,</mo><mi>y</mi></mrow></msub><mo>)</mo></mrow></mrow></munder><munder><mi>min</mi><mrow><mi>i</mi><mo>&Element;</mo><mi>D</mi></mrow></munder><mrow><mo>(</mo><mi>&lambda;s</mi><mrow><mo>(</mo><mi>d</mi><mo>,</mo><mi>i</mi><mo>)</mo></mrow><mo>+</mo><mi>E</mi><mrow><mo>(</mo><mi>q</mi><mo>,</mo><mi>i</mi><mo>)</mo></mrow><mo>)</mo></mrow></mrow></math>]]></maths>完成图像对像素点的稠密匹配;式中前一项m(p<sub>x,y</sub>,d)表示p<sub>x,y</sub>视差为d时的匹配度,由步骤4可得到;后一项是节点p<sub>x,y</sub>所有子节点的数据累积代价,其中s(·)代表相邻像素点之间的平滑代价,取为相邻像素点p和q的视差d<sub>p</sub>和d<sub>q</sub>之差的绝对值,即s(d<sub>p</sub>,d<sub>q</sub>)=|d<sub>p</sub>-d<sub>q</sub>|;sub(p<sub>x,y</sub>)表示p<sub>x,y</sub>所有相邻子节点集合,即四个前驱节点p<sub>x-1,y</sub>,p<sub>x,y-1</sub>,p<sub>x+1,y</sub>,p<sub>x,y+1</sub>,则p<sub>x,y</sub>的视差值为<img file="FSB00000648596900012.GIF" wi="509" he="102" />d∈D,D=[d<sub>min</sub>,d<sub>max</sub>],其中d<sub>min</sub>为最大视差值,d<sub>max</sub>为最小视差值,λ为权重系数;步骤6:视差校正步骤6.1:标记视差不可靠点分别以左右图像为基准图像计算视差图D<sub>l</sub>,D<sub>r</sub>,运用左右一致性准则,将满足|d<sub>l</sub>(p)-d<sub>r</sub>(q)|≤1的点标记为视差可靠点,并使Dispartiy(p)=(d<sub>l</sub>(p)+d<sub>r</sub>(q))/2;否则标记为视差不可靠点,并标记Dispartiy(p)=0;其中p点为基准图像中像素点,q点为配准图像中p点的匹配点,d<sub>l</sub>(p)∈D<sub>l</sub>为像素点p点的视差值,d<sub>r</sub>(q)∈D<sub>r</sub>为像素点q的视差,Dispartiy(p)为p点最终视差值;步骤6.2:填充视差不可靠点将基准图像中坐标(x,y)的视差不可靠像素点p八邻域的像素点标记为Npi,其中(x<sub>i</sub>,y<sub>i</sub>)为Npi的图像坐标,<img file="FSB00000648596900021.GIF" wi="388" he="46" />将Npi的灰度值与p点灰度值相减,得到灰度差值,并将灰度差值按从小到大的顺序排序;按照从灰度差值最小的像素到最大的像素的顺序来依次判断是否存在像素Npi满足如下三个条件(1)Npi为视差可靠点;(2)Npi∈W<sub>p</sub>,其中W<sub>p</sub>为步骤4.2中计算得到的p点自适应多边形支撑窗口;(3)|I<sub>l</sub>(x<sub>i</sub>,y<sub>i</sub>)-I<sub>r</sub>(x<sub>i</sub>+d,y<sub>i</sub>)|≤s,其中I<sub>l</sub>(·),I<sub>r</sub>(·)表示基准图像和配准图像中像素点的灰度值,d=d<sub>l</sub>(Npi)为Npi的视差值,s为设定的阈值;若存在Npi满足上面三个条件则将p点标记为可靠点,并使Dispartiy(p)=d<sub>l</sub>(Npi);否则将条件(3)替换为|I<sub>l</sub>(x,y)-I<sub>l</sub>(x+m,y+n)|≤s重新计算,如果存在Npi满足条件则将p标记为视差可靠点并使视差Dispartiy(p)=d<sub>l</sub>(Npi);其中m,n∈(-1,0,1),m,n不同时为0;经过此步骤得到最终的视差图;步骤7:三维信息还原根据步骤2得到的摄像机内参数矩阵A<sub>L</sub>、A<sub>R</sub>和外参数矩阵[R<sub>L</sub> t<sub>L</sub>]、[R<sub>R</sub> t<sub>R</sub>],以及步骤6得到的视差图中匹配点对关系,计算得到图像的三维点云坐标;步骤4的计算视差空间图包括以下四个子步骤:步骤4.1:对两幅图像进行高斯滤波,消除噪声影响改善图像质量;步骤4.2:计算自适应多边形匹配窗口任取两幅图像中一幅为基准图像,另一幅为配准图像,对经过步骤3对极线校正变换后得到的图像,通过公式<img file="FSB00000648596900022.GIF" wi="501" he="60" />计算基准图像中坐标为(x,y)的任意像素点p的八邻域方向步长h(θ<sub>k</sub>),其中<img file="FSB00000648596900023.GIF" wi="133" he="58" />为步长为h<sub>i</sub>的像素点与p点的灰度差,<img file="FSB00000648596900024.GIF" wi="135" he="56" />为步长为h<sub>i</sub>的像素点与p点的空间距离,当满足式<img file="FSB00000648596900025.GIF" wi="181" he="58" />时,h(θ<sub>k</sub>)=h<sub>i</sub>,a为常系数,τ为阈值,h<sub>i</sub>∈{1,2,4,6,12,17},θ<sub>k</sub>为八邻域方向,其中:k=0,1,2…7;连接p点八邻域步长h(θ<sub>k</sub>)的顶点,形成p点的自适应多边形支撑窗口W<sub>p</sub>;4.3:计算匹配度步骤4.3包括以下三个子步骤:步骤4.3.1:经过步骤4.2的计算,基准图像中坐标为(x,y)的任意像素点p的自适应多边形支撑窗口为W<sub>p</sub>,在配准图像中视差范围D内计算其在对应极线上可能的匹配点q的自适应多边形支撑窗口为W<sub>q</sub>;如果基准图像为左图像配准图像为右图像,则q点坐标(x-d,y),如果基准图像为右图像配准图像为左图像则q点坐标(x+d,y),其中d ∈D,D=[d<sub>min</sub>,d<sub>max</sub>],d<sub>min</sub>为最大视差值,d<sub>max</sub>为最小视差值;步骤4.3.2:分别计算像素点p,q的特异性Q(p),Q(q),其中<img file="FSB00000648596900031.GIF" wi="455" he="78" />w<sub>p</sub>={(p+d)|d<sub>min</sub>-d<sub>max</sub>≤d≤d<sub>max</sub>-d<sub>min</sub>};f(·)选取对光照及噪声鲁棒性较强的零均值归一化算子,支撑窗口的选取大小及形状与W<sub>p</sub>和W<sub>q</sub>的交集窗口一致;步骤4.3.3:计算对应像素点p的匹配度,记为m(p,d),<maths num="0002"><![CDATA[<math><mrow><mi>m</mi><mrow><mo>(</mo><mi>p</mi><mo>,</mo><mi>d</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mrow><mi>Q</mi><mrow><mo>(</mo><mi>p</mi><mo>)</mo></mrow><mo>&times;</mo><mi>Q</mi><mrow><mo>(</mo><mi>q</mi><mo>)</mo></mrow></mrow><mrow><mi>f</mi><mrow><mo>(</mo><mi>p</mi><mo>,</mo><mi>q</mi><mo>)</mo></mrow></mrow></mfrac><mo>;</mo></mrow></math>]]></maths>步骤4.4:在基准图像全图范围内重复计算步骤4.1,步骤4.2得到全图像素点在视差范围内的匹配度,得到视差空间图。
地址 210009 江苏省南京市江宁开发区东南大学路2号