发明名称 基于旋转矩阵搜索的鱼眼图像匹配方法
摘要 一种基于旋转矩阵搜索的鱼眼图像匹配方法属于计算机视觉研究领域。本发明采用通过两幅图像特征点的单位球面投影之间旋转矩阵搜索的鱼眼图像匹配方法,国内外目前还没有类似文献报道。本方法从两幅鱼眼图像上提取的特征点出发,根据图像的主点坐标和焦距将特征点投影到单位球面上;然后由单位球面上的投影点随机选择至少6对对应点估计出旋转矩阵;最后,由所有旋转矩阵估计第一幅单位球面图像上的特征点在第二幅单位球面图像上的投影点,并计算这些投影点与第二幅单位球面图像上相应特征点的夹角和,对应于夹角和最小的旋转矩阵就是搜索到的旋转矩阵。本发明能够通过鱼眼图像间的旋转矩阵搜索以80%以上的准确匹配率确定鱼眼图像之间的对应点。
申请公布号 CN102651131B 申请公布日期 2014.08.20
申请号 CN201210091633.9 申请日期 2012.03.30
申请人 北京化工大学 发明人 祝海江;徐晓波;王旋
分类号 G06T7/00(2006.01)I 主分类号 G06T7/00(2006.01)I
代理机构 北京思海天达知识产权代理有限公司 11203 代理人 刘萍
主权项 一种基于旋转矩阵搜索的鱼眼图像匹配方法,其特征在于,具体步骤如下:(1)提取两幅原始鱼眼图像上的所有特征点P<sub>i</sub>及P<sub>i</sub>′,这两组特征点作为需要匹配的数据;(2)在第一幅鱼眼图像上的所有特征点P<sub>i</sub>中选择特征点m<sub>i</sub>,以这个特征点为中心选择矩形相关窗口,再在第二幅鱼眼图像上以与点m<sub>i</sub>相同的坐标为中心选择大小为矩形相关窗口2倍大的矩形搜索窗口;(3)计算第一幅鱼眼图像上特征点m<sub>i</sub>=(u,v)<sup>T</sup>与第二幅鱼眼图像上在矩形搜索窗口中的特征点m′<sub>i</sub>=(u′,v′)<sup>T</sup>的灰度相关系数Cor(m<sub>i</sub>,m′<sub>i</sub>):设定的灰度相关系数阈值为0.6,则在第二幅鱼眼图像上灰度相关系数大于阈值的特征点是与第一幅鱼眼图像上的特征点m<sub>i</sub>相匹配的候选特征点;(4)由鱼眼图像的焦距及主点坐标将第一幅鱼眼图像上的特征点投影为单位球面点M<sub>i</sub>=(x<sub>i</sub>,y<sub>i</sub>,z<sub>i</sub>)<sup>T</sup>,在第二幅鱼眼图像上的候选特征点投影为单位球面点M′<sub>i</sub>=(x′<sub>i</sub>,y′<sub>i</sub>,z′<sub>i</sub>)<sup>T</sup>;(5)单位球面点M<sub>i</sub>与候选匹配点的单位球面投影M′<sub>i</sub>间存在对应关系:M′<sub>i</sub>=R·M<sub>i</sub>+T,其中R是3×3的旋转矩阵,T是3×1的平移向量;令<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><mi>R</mi><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>r</mi><mn>11</mn></msub></mtd><mtd><msub><mi>r</mi><mn>12</mn></msub></mtd><mtd><msub><mi>r</mi><mn>13</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>21</mn></msub></mtd><mtd><msub><mi>r</mi><mn>22</mn></msub></mtd><mtd><msub><mi>r</mi><mn>23</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>31</mn></msub></mtd><mtd><msub><mi>r</mi><mn>32</mn></msub></mtd><mtd><msub><mi>r</mi><mn>33</mn></msub></mtd></mtr></mtable></mfenced></mrow>]]></math><img file="FDA0000517998610000011.GIF" wi="389" he="233" /></maths>和<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><mi>T</mi><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>t</mi><mi>x</mi></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mi>y</mi></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mi>z</mi></msub></mtd></mtr></mtable></mfenced><mo>,</mo></mrow>]]></math><img file="FDA0000517998610000012.GIF" wi="209" he="233" /></maths>则有<maths num="0003" id="cmaths0003"><math><![CDATA[<mrow><mfenced open='(' close=')'><mtable><mtr><mtd><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr></mtable></mfenced><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>r</mi><mn>11</mn></msub></mtd><mtd><msub><mi>r</mi><mn>12</mn></msub></mtd><mtd><msub><mi>r</mi><mn>13</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>21</mn></msub></mtd><mtd><msub><mi>r</mi><mn>22</mn></msub></mtd><mtd><msub><mi>r</mi><mn>23</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>31</mn></msub></mtd><mtd><msub><mi>r</mi><mn>32</mn></msub></mtd><mtd><msub><mi>r</mi><mn>33</mn></msub></mtd></mtr></mtable></mfenced><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>x</mi><mi>i</mi></msub></mtd></mtr><mtr><mtd><msub><mi>y</mi><mi>i</mi></msub></mtd></mtr><mtr><mtd><msub><mi>z</mi><mi>i</mi></msub></mtd></mtr></mtable></mfenced><mo>+</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>t</mi><mi>x</mi></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mi>y</mi></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mi>z</mi></msub></mtd></mtr></mtable></mfenced></mrow>]]></math><img file="FDA0000517998610000013.GIF" wi="662" he="233" /></maths>于是,在已知单位球面点M<sub>i</sub>和M′<sub>i</sub>的情况下,得到两个关于旋转矩阵和平移向量的关系式<maths num="0004" id="cmaths0004"><math><![CDATA[<mfenced open='{' close=''><mtable><mtr><mtd><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>x</mi><mi>i</mi></msub><msub><mi>r</mi><mn>11</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>y</mi><mi>i</mi></msub><msub><mi>r</mi><mn>12</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>z</mi><mi>i</mi></msub><msub><mi>r</mi><mn>13</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>t</mi><mi>x</mi></msub><mo>-</mo><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>x</mi><mi>i</mi></msub><msub><mi>r</mi><mn>31</mn></msub><mo>-</mo><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>y</mi><mi>i</mi></msub><msub><mi>r</mi><mn>12</mn></msub><mo>-</mo><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>z</mi><mi>i</mi></msub><msub><mi>r</mi><mn>13</mn></msub><mo>-</mo><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>t</mi><mi>z</mi></msub><mo>=</mo><mn>0</mn></mtd></mtr><mtr><mtd><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>x</mi><mi>i</mi></msub><msub><mi>r</mi><mn>21</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>y</mi><mi>i</mi></msub><msub><mi>r</mi><mn>21</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>z</mi><mi>i</mi></msub><msub><mi>r</mi><mn>23</mn></msub><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>t</mi><mi>y</mi></msub><mo>-</mo><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>x</mi><mi>i</mi></msub><msub><mi>r</mi><mn>31</mn></msub><mo>-</mo><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>y</mi><mi>i</mi></msub><msub><mi>r</mi><mn>12</mn></msub><mo>-</mo><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>z</mi><mi>i</mi></msub><msub><mi>r</mi><mn>31</mn></msub><mo>-</mo><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>t</mi><mi>z</mi></msub><mo>=</mo><mn>0</mn></mtd></mtr></mtable></mfenced>]]></math><img file="FDA0000517998610000014.GIF" wi="1302" he="156" /></maths>由M<sub>i</sub>与M′<sub>i</sub>之间的对应关系知道至少需要6对对应点能线性地计算出1组旋转矩阵和平移向量;在单位球面点M<sub>i</sub>与M′<sub>i</sub>中随机选择出至少6对对应点,每6对对应点估计出1组旋转矩阵和平移向量,共估计出n组旋转矩阵和平移向量(R<sub>n</sub>,T<sub>n</sub>);(6)根据(R<sub>n</sub>,T<sub>n</sub>)将M<sub>i</sub>反投影到第二幅鱼眼图像对应的单位球面上得到反投影点<maths num="0005" id="cmaths0005"><math><![CDATA[<mrow><msubsup><mover><mi>M</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mo>=</mo><msub><mi>R</mi><mi>n</mi></msub><msub><mi>M</mi><mi>i</mi></msub><mo>+</mo><msub><mi>T</mi><mi>n</mi></msub><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msubsup><mover><mi>x</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr><mtr><mtd><msubsup><mover><mi>y</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr><mtr><mtd><msubsup><mover><mi>z</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup></mtd></mtr></mtable></mfenced></mrow>]]></math><img file="FDA0000517998610000021.GIF" wi="474" he="234" /></maths>而M′<sub>i</sub>与反投影点<img file="FDA0000517998610000022.GIF" wi="74" he="75" />之间存在夹角<maths num="0006" id="cmaths0006"><math><![CDATA[<mrow><mi>&alpha;</mi><mo>=</mo><mo>&angle;</mo><mrow><mo>(</mo><msubsup><mi>M</mi><mrow><mi>i</mi><mo>,</mo></mrow><mo>&prime;</mo></msubsup><mo>,</mo><msubsup><mover><mi>M</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mo>)</mo></mrow><mo>=</mo><mo>&angle;</mo><mrow><mo>(</mo><msubsup><mi>M</mi><mi>i</mi><mo>&prime;</mo></msubsup><mo>,</mo><msub><mi>R</mi><mi>n</mi></msub><msub><mi>M</mi><mi>i</mi></msub><mo>+</mo><msub><mi>T</mi><mi>n</mi></msub><mo>)</mo></mrow><mo>,</mo></mrow>]]></math><img file="FDA0000517998610000023.GIF" wi="738" he="99" /></maths>在n组旋转矩阵和平移向量(R<sub>n</sub>,T<sub>n</sub>)中搜索使得<maths num="0007" id="cmaths0007"><math><![CDATA[<mfenced open='' close=''><mtable><mtr><mtd><munder><mi>min</mi><mrow><mi>R</mi><mo>,</mo><mi>T</mi></mrow></munder><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><mo>&angle;</mo><mrow><mo>(</mo><msubsup><mi>M</mi><mi>i</mi><mo>&prime;</mo></msubsup><mo>,</mo><msub><mi>R</mi><mi>n</mi></msub><msub><mi>M</mi><mi>i</mi></msub><mo>+</mo><msub><mi>T</mi><mi>n</mi></msub><mo>)</mo></mrow><mo>=</mo><munder><mi>min</mi><mrow><mi>R</mi><mo>,</mo><mi>T</mi></mrow></munder><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><mi>arccos</mi><mrow><mo>(</mo><mfrac><mrow><msubsup><mi>M</mi><mi>i</mi><mo>&prime;</mo></msubsup><mo>&CenterDot;</mo><msubsup><mover><mi>M</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup></mrow><mrow><mo>|</mo><mo>|</mo><msubsup><mi>M</mi><mi>i</mi><mo>&prime;</mo></msubsup><mo>|</mo><mo>|</mo><mo>&CenterDot;</mo><mo>|</mo><mo>|</mo><msubsup><mover><mi>M</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mo>|</mo><mo>|</mo></mrow></mfrac><mo>)</mo></mrow></mtd></mtr><mtr><mtd><mo>=</mo><munder><mi>min</mi><mrow><mi>R</mi><mo>,</mo><mi>T</mi></mrow></munder><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><mi>arccos</mi><mrow><mo>(</mo><mfrac><mrow><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><msup><mover><mi>x</mi><mo>^</mo></mover><mo>&prime;</mo></msup><mo>+</mo><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><msubsup><mover><mi>y</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mo>+</mo><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><msubsup><mover><mi>z</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup></mrow><mrow><msqrt><msup><msubsup><mi>x</mi><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup><mo>+</mo><msup><msubsup><mi>y</mi><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup><mo>+</mo><msup><msubsup><mi>z</mi><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup></msqrt><msqrt><msup><msubsup><mover><mi>x</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup><mo>+</mo><msup><msubsup><mover><mi>y</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup><mo>+</mo><msup><msup><msubsup><mover><mi>z</mi><mo>^</mo></mover><mi>i</mi><mo>&prime;</mo></msubsup><mn>2</mn></msup></msup></msqrt></mrow></mfrac><mo>)</mo></mrow></mtd></mtr></mtable></mfenced>]]></math><img file="FDA0000517998610000024.GIF" wi="1630" he="388" /></maths>式中N为鱼眼图像上特征点的数目,即使得夹角和最小的旋转矩阵和平移向量(R,T)来确定两幅鱼眼图像之间正确的匹配点对。
地址 100029 北京市朝阳区北三环东路15号