发明名称 一种基于视点合成的立体图像垂直视差消除方法
摘要 本发明公开了一种基于视点合成的消除立体图像垂直视差的方法。本发明按顺序可以分为四个步骤:(1)对原始立体图像进行传统方式的外极线校正,得到初始校正后的立体图像;(2)对初始校正后的立体图像进行立体匹配,得到对应的水平视差图;(3)根据投影关系,计算得到对应于原始立体图像的水平视差图和垂直视差图;(4)基于原始立体图像的水平视差图和垂直视差图,进行视点合成,得到校正后的立体图像。本发明的主要特点是引入视点合成技术,在消除立体图像的垂直视差的同时,减小校正过程带来的投影失真。
申请公布号 CN103945207B 申请公布日期 2015.09.02
申请号 CN201410166939.5 申请日期 2014.04.24
申请人 浙江大学 发明人 杜歆;邹泷;朱云芳
分类号 H04N13/00(2006.01)I 主分类号 H04N13/00(2006.01)I
代理机构 杭州求是专利事务所有限公司 33200 代理人 邱启旺
主权项 一种基于视点合成的立体图像垂直视差消除方法,其特征在于,该方法包括以下步骤:(1)采集原始立体图像的左视图I<sub>L</sub>和右视图I<sub>R</sub>;(2)输入原始立体图像的左视图I<sub>L</sub>和右视图I<sub>R</sub>,对其进行传统方式的外极线校正,得到经过初始校正后的立体图像左视图I<sub>TL</sub>和右视图I<sub>TR</sub>,并记录下分别施加在左视图和右视图上变换矩阵T<sub>L</sub>和T<sub>R</sub>;(3)对经过初始校正后的立体图像左视图I<sub>TL</sub>和右视图I<sub>TR</sub>进行立体匹配,得到对应的水平视差图D<sub>TL</sub>和D<sub>TR</sub>;(4)根据投影关系,计算得到对应于左视图I<sub>L</sub>的水平视差图D<sub>HL</sub>和垂直视差图D<sub>VL</sub>,以及对应于右视图I<sub>R</sub>的水平视差图D<sub>HR</sub>以及垂直视差图D<sub>VR</sub>;(5)基于原立体图像的左右视图I<sub>L</sub>和I<sub>R</sub>,以及相应的水平和垂直视差图D<sub>HL</sub>、D<sub>VL</sub>、D<sub>HR</sub>、D<sub>VR</sub>,进行视点合成,得到新的右视图<img file="FDA0000721214870000012.GIF" wi="113" he="69" />原始立体图像的左视图I<sub>L</sub>和新的右视图<img file="FDA0000721214870000011.GIF" wi="85" he="73" />已经消除了垂直视差,构成了新的立体图像;所述的步骤(4)中计算得到对应于左视图I<sub>L</sub>的水平视差图D<sub>HL</sub>和垂直视差图D<sub>VL</sub>,以及对应于右视图I<sub>R</sub>的水平视差图D<sub>HR</sub>以及垂直视差图D<sub>VR</sub>,通过以下步骤来实现:(4.1)对左视图I<sub>L</sub>中的任意一点p<sub>L</sub>,经过变换T<sub>L</sub>得到经过初始校正后的左视图I<sub>TL</sub>中的对应点p<sub>TL</sub>=T<sub>L</sub>·p<sub>L</sub>;点p<sub>TL</sub>的坐标值一般为非整数,通过做双线性插值,在视差图D<sub>TL</sub>中得到对应于p<sub>TL</sub>位置的视差值d<sub>pTL</sub>;(4.2)记I<sub>TL</sub>中的点p<sub>TL</sub>的齐次坐标为p<sub>TL</sub>=[x<sub>TL</sub>,y<sub>TL</sub>,1]<sup>T</sup>,则它在相对应的右视图I<sub>TR</sub>中的对应点p<sub>TR</sub>为:p<sub>TR</sub>=[x<sub>TL</sub>‑d<sub>pTL</sub>,y<sub>TL</sub>,1]<sup>T</sup>;(4.3)将点p<sub>TR</sub>经过对应于T<sub>R</sub>的逆变换<img file="FDA0000721214870000013.GIF" wi="79" he="79" />投影回右视图I<sub>R</sub>得到点<img file="FDA0000721214870000014.GIF" wi="318" he="86" />从而建立起了左视图I<sub>L</sub>中的点p<sub>L</sub>和右视图I<sub>R</sub>中的点p<sub>R</sub>之间的对应关系,即p<sub>L</sub>和p<sub>R</sub>是一对匹配点;(4.4)记p<sub>L</sub>和p<sub>R</sub>的坐标值分别为[x<sub>L</sub>,y<sub>L</sub>]<sup>T</sup>和[x<sub>R</sub>,y<sub>R</sub>]<sup>T</sup>,可以根据下式计算得到对应于p<sub>L</sub>的水平视差值d<sub>HL</sub>和垂直视差值d<sub>VL</sub>:d<sub>HL</sub>=x<sub>L</sub>‑x<sub>R</sub>,d<sub>VL</sub>=y<sub>L</sub>‑y<sub>R</sub>;(4.5)对左视图I<sub>L</sub>中的每一点施加上述过程,可以得到对应于左视图I<sub>L</sub>的水平视差图D<sub>HL</sub>和垂直视差图D<sub>VL</sub>;(4.6)同理,对右视图I<sub>R</sub>施加上述过程,可以计算得到对应于右视图I<sub>R</sub>的水平视差图D<sub>HR</sub>以及垂直视差图D<sub>VR</sub>;所述的步骤(5)中视点合成的方法,包括以下步骤:(5.1)采用反向映射的机制,即对于新的右视图<img file="FDA00007212148700000210.GIF" wi="87" he="68" />上的每一个点<img file="FDA00007212148700000211.GIF" wi="131" he="68" />记它的坐标值为<img file="FDA0000721214870000029.GIF" wi="292" he="101" />根据由I<sub>L</sub>和I<sub>R</sub>的水平及垂直视差图D<sub>HL</sub>、D<sub>VL</sub>、D<sub>HR</sub>、D<sub>VR</sub>所确定的投影关系,分别I<sub>L</sub>和I<sub>R</sub>上寻找各自的对应点p'<sub>L</sub>及p'<sub>R</sub>;(5.2)在找到了新的右视图<img file="FDA00007212148700000212.GIF" wi="88" he="68" />上的点<img file="FDA00007212148700000213.GIF" wi="96" he="68" />在左右视图上各自的对应点p'<sub>L</sub>,p'<sub>R</sub>后,比较这二点的水平视差值,将视差值大的点投影得到<img file="FDA00007212148700000214.GIF" wi="120" he="69" />(5.3)对合成新右视图<img file="FDA00007212148700000215.GIF" wi="87" he="68" />中空白点进行修补;所述的步骤(5.1)在I<sub>L</sub>和I<sub>R</sub>上寻找各自的对应点p'<sub>L</sub>及p'<sub>R</sub>,包括以下步骤:(5.1.1)设<img file="FDA00007212148700000220.GIF" wi="98" he="73" />点在左视图I<sub>L</sub>中的对应点为p'<sub>L</sub>,为了达到消除垂直视差的目的,需要以满足水平视差约束为条件,在I<sub>L</sub>中进行搜索,记p'<sub>L</sub>的坐标值为<img file="FDA0000721214870000021.GIF" wi="280" he="121" />要求其x轴坐标值<img file="FDA00007212148700000221.GIF" wi="72" he="80" />须满足下面的关系式:<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><msub><mi>x</mi><msubsup><mi>p</mi><mi>L</mi><mo>&prime;</mo></msubsup></msub><mo>=</mo><munder><mrow><mi>arg</mi><mi>min</mi></mrow><mrow><msub><mi>x</mi><msub><mi>p</mi><mover><mi>L</mi><mo>~</mo></mover></msub></msub><mo>&Element;</mo><mo>[</mo><msubsup><mi>x</mi><mi>R</mi><mi>new</mi></msubsup><mo>-</mo><msub><mi>&tau;</mi><mn>1</mn></msub><mo>,</mo><msubsup><mi>x</mi><mi>R</mi><mi>new</mi></msubsup><mo>+</mo><msub><mi>&tau;</mi><mn>1</mn></msub><mo>]</mo></mrow></munder><mo>|</mo><msub><mi>x</mi><msub><mi>p</mi><mover><mi>L</mi><mo>~</mo></mover></msub></msub><mo>-</mo><msubsup><mi>x</mi><mi>R</mi><mi>new</mi></msubsup><mo>-</mo><msub><mi>d</mi><msub><mi>H</mi><msub><mi>p</mi><mover><mi>L</mi><mo>~</mo></mover></msub></msub></msub><mo>|</mo></mrow>]]></math><img file="FDA0000721214870000022.GIF" wi="759" he="156" /></maths>上式中,τ<sub>1</sub>为一预设值,<img file="FDA0000721214870000023.GIF" wi="246" he="76" />表示在I<sub>L</sub>上以坐标值<img file="FDA0000721214870000024.GIF" wi="263" he="97" />为中心沿水平方向的搜索范围,<img file="FDA00007212148700000219.GIF" wi="101" he="82" />为与I<sub>L</sub>对应的水平视差图D<sub>HL</sub>中位于坐标<img file="FDA00007212148700000218.GIF" wi="247" he="114" />处的水平视差值;(5.1.2)设<img file="FDA00007212148700000216.GIF" wi="101" he="68" />点在右视图I<sub>R</sub>中的对应点为p'<sub>R</sub>,在垂直视差的约束下,在I<sub>R</sub>中进行搜索,记p'<sub>R</sub>的坐标值为<img file="FDA00007212148700000217.GIF" wi="274" he="114" />要求其y轴坐标值<img file="FDA00007212148700000222.GIF" wi="80" he="83" />须满足下面的关系式:<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><msub><mi>y</mi><msubsup><mi>p</mi><mi>R</mi><mo>&prime;</mo></msubsup></msub><mo>=</mo><munder><mrow><mi>arg</mi><mi>min</mi></mrow><mrow><msub><mi>y</mi><mrow><mi>p</mi><mover><mi>R</mi><mo>~</mo></mover></mrow></msub><mo>&Element;</mo><mo>[</mo><msubsup><mi>y</mi><mi>R</mi><mi>new</mi></msubsup><mo>-</mo><msub><mi>&tau;</mi><mn>2</mn></msub><mo>,</mo><msubsup><mi>y</mi><mi>R</mi><mi>new</mi></msubsup><mo>+</mo><msub><mi>&tau;</mi><mn>2</mn></msub><mo>]</mo></mrow></munder><mo>|</mo><mo>|</mo><msub><mi>y</mi><mrow><mi>p</mi><mover><mi>R</mi><mo>~</mo></mover></mrow></msub><mo>-</mo><msubsup><mi>y</mi><mi>R</mi><mi>new</mi></msubsup><mo>|</mo><mo>-</mo><mo>|</mo><msub><mi>d</mi><msub><mi>Vp</mi><mover><mi>R</mi><mo>~</mo></mover></msub></msub><mo>|</mo><mo>|</mo></mrow>]]></math><img file="FDA0000721214870000025.GIF" wi="821" he="152" /></maths>上式中,τ<sub>2</sub>为一预设值,<img file="FDA0000721214870000026.GIF" wi="258" he="84" />表示在I<sub>R</sub>上以坐标值<img file="FDA0000721214870000027.GIF" wi="258" he="101" />为中心沿垂直方向的搜索范围,<img file="FDA00007212148700000223.GIF" wi="97" he="92" />为与I<sub>R</sub>对应的垂直视差图D<sub>VR</sub>中位于坐标<img file="FDA0000721214870000028.GIF" wi="255" he="118" />处的垂直视差值。
地址 310058 浙江省杭州市西湖区余杭塘路866号