发明名称 基于二维相机和三维相机融合的非合作目标位姿测量方法
摘要 一种基于二维相机和三维相机融合的非合作目标位姿测量方法,是将二维相机和三维相机组合成一种相机测量系统,对非合作目标进行相对位姿测量,通过二维相机提供的高分辨率二维图像信息和三维相机提供的灰度、深度及调制信号的幅度信息进行数据融合获得高分辨率三维图像,高效准确地提取特征点信息,计算出非合作目标相对位置和姿态参数。本发明能够有效克服迭代运算繁琐和特征点提取困难等缺点,快速求解满出足精度要求的位姿信息。
申请公布号 CN102589530B 申请公布日期 2013.09.18
申请号 CN201210044842.8 申请日期 2012.02.24
申请人 合肥工业大学 发明人 张旭东;高隽;叶子瑞;贾保柱;李文龙
分类号 G01C11/00(2006.01)I 主分类号 G01C11/00(2006.01)I
代理机构 安徽省合肥新安专利代理有限责任公司 34101 代理人 何梅生
主权项 1.一种基于二维相机和三维相机融合的非合作目标位姿测量方法,其特征按如下步骤进行:1)将二维相机叠加在三维相机的正上方,组合成相机测量系统,通过标定使得二维相机光心和三维相机光心在同一个竖直线上;由所述二维相机获取非合作目标的二维图像信息,由所述三维相机获取非合作目标的灰度信息、深度信息及调制信号的幅度信息,将所获得的二维图像信息、灰度信息、深度信息及幅度信息通过数据融合方法获得非合作目标三维图像;2)在所述非合作目标三维图像中选取三个非共线的特征点作为标记点P<sub>i</sub>,i=1,2,3;根据三维空间坐标计算方法计算出各标记点P<sub>i</sub>在非合作目标坐标系O<sub>o</sub>-X<sub>o</sub>Y<sub>o</sub>Z<sub>o</sub>下的标记点坐标P<sub>i</sub>=(X<sub>i</sub>,Y<sub>i</sub>,Z<sub>i</sub>),i=1,2,3,通过标记点P<sub>1</sub>和标记点P<sub>2</sub>之间的坐标相减获得向量<img file="FDA00003190262800011.GIF" wi="127" he="102" />通过标记点P<sub>1</sub>和标记点P<sub>3</sub>之间的坐标相减获得向量<img file="FDA00003190262800012.GIF" wi="122" he="97" />对所述向量<img file="FDA00003190262800013.GIF" wi="96" he="103" />和向量<img file="FDA00003190262800014.GIF" wi="89" he="102" />分别进行向量单位化后求出两个线性无关的单位列向量<img file="FDA00003190262800015.GIF" wi="68" he="95" />和<img file="FDA00003190262800016.GIF" wi="94" he="96" />令<img file="FDA00003190262800017.GIF" wi="74" he="100" />为<img file="FDA00003190262800018.GIF" wi="196" he="100" />所构成的单位列向量,构造出三个标记点P<sub>i</sub>,i=1,2,3在非合作目标坐标系O<sub>o</sub>-X<sub>o</sub>Y<sub>o</sub>Z<sub>o</sub>下的向量组:<maths num="0001"><![CDATA[<math><mrow><msub><mi>n</mi><mi>o</mi></msub><mo>=</mo><mo>[</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>1</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>2</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>3</mn></mrow></msub><mo>]</mo><mo>;</mo></mrow></math>]]></maths>所述非合作目标坐标系O<sub>o</sub>-X<sub>o</sub>Y<sub>o</sub>Z<sub>o</sub>建立方法为:以P<sub>1</sub>为坐标原点,P<sub>1</sub>P<sub>2</sub>的连线为X轴,Y轴垂直于X轴且P<sub>3</sub>在由X轴和Y轴所确定的平面上,Z轴垂直于由所述X轴和Y轴确定的平面,并与所述X轴和Y轴构成右手系;3)建立二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>:以二维相机光轴与二维相机像平面A<sub>2</sub>的交点为二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>的坐标原点O<sub>2</sub>,X<sub>2</sub>轴与图像像素横方向U平行,Z<sub>2</sub>轴与图像像素竖直方向V平行;建立二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>:以二维相机光心为二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>的坐标原点O<sub>s2</sub>,Y<sub>s2</sub>轴为二维相机光轴方向,X<sub>s2</sub>轴与二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>的X<sub>2</sub>轴平行,Z<sub>s2</sub>轴与二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>的Z<sub>2</sub>轴平行,并与所述X<sub>s2</sub>轴和Y<sub>s2</sub>轴构成右手系;通过各标记点P<sub>i</sub>的像点在二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>下的图像像素坐标(u<sub>i</sub>,v<sub>i</sub>)按如下方法计算出各标记点P<sub>i</sub>在二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>下的坐标S<sub>i</sub>:a、将各标记点P<sub>i</sub>的像点在二维相机像平面坐标系O<sub>2</sub>-X<sub>2</sub>Z<sub>2</sub>下的图像像素坐标(u<sub>i</sub>,v<sub>i</sub>)转化为像点在二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>下的坐标(u<sub>i</sub>,v<sub>i</sub>,f),其中f为二维相机焦距;b、由各标记点P<sub>i</sub>的像点在二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>下的坐标(u<sub>i</sub>,v<sub>i</sub>,f)确定出二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>的坐标原点O<sub>s2</sub>到各标记点P<sub>i</sub>的方向向量,获得<img file="FDA00003190262800021.GIF" wi="146" he="112" />的单位方向向量<img file="FDA00003190262800022.GIF" wi="79" he="95" />c、由三维相机测得各标记点P<sub>i</sub>到三维相机光心的距离为L<sub>i</sub>,并通过式(1)得出各标记点P<sub>i</sub>到二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>的坐标原点O<sub>s2</sub>的距离D<sub>i</sub>,<maths num="0002"><![CDATA[<math><mrow><msub><mi>D</mi><mi>i</mi></msub><mo>=</mo><msqrt><msup><mi>h</mi><mn>2</mn></msup><mo>+</mo><msubsup><mi>L</mi><mi>i</mi><mn>2</mn></msubsup><mo>+</mo><msub><mrow><mn>2</mn><mi>hL</mi></mrow><mi>i</mi></msub><mi>cos</mi><mi>&alpha;</mi></msqrt><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>1</mn><mo>)</mo></mrow></mrow></math>]]></maths>式(1)中,h为二维相机光心与三维相机光心之间的距离,α为O<sub>s1</sub>P'<sub>i</sub>与O<sub>s1</sub>O<sub>s2</sub>的夹角,P'<sub>i</sub>为标记点P<sub>i</sub>在三维相机像平面A<sub>1</sub>上的像点;d、由式(2)求出各标记点P<sub>i</sub>在二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>下的坐标S<sub>i</sub>,i=1,2,3;<maths num="0003"><![CDATA[<math><mrow><msub><mi>S</mi><mi>i</mi></msub><mo>=</mo><msub><mi>D</mi><mi>i</mi></msub><msub><mover><mi>a</mi><mo>&RightArrow;</mo></mover><mi>i</mi></msub><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>2</mn><mo>)</mo></mrow></mrow></math>]]></maths>通过各标记点P<sub>i</sub>之间的坐标相减获得向量<img file="FDA00003190262800025.GIF" wi="98" he="99" />和<img file="FDA00003190262800026.GIF" wi="124" he="98" />向量<img file="FDA00003190262800027.GIF" wi="96" he="101" />和<img file="FDA00003190262800028.GIF" wi="92" he="97" />单位化后求出两个线性无关的单位列向量<img file="FDA00003190262800029.GIF" wi="69" he="103" />和<img file="FDA000031902628000210.GIF" wi="108" he="100" />令<img file="FDA000031902628000211.GIF" wi="72" he="100" />为<img file="FDA000031902628000212.GIF" wi="190" he="103" />所构成的单位列向量;构造出三个标记点P<sub>i</sub>,i=1,2,3在二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>下的向量组:<img file="FDA000031902628000213.GIF" wi="516" he="102" />4)由向量组<maths num="0004"><![CDATA[<math><mrow><msub><mi>n</mi><mi>o</mi></msub><mo>=</mo><mo>[</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>1</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>2</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>o</mi><mn>3</mn></mrow></msub><mo>]</mo></mrow></math>]]></maths>和向量组<maths num="0005"><![CDATA[<math><mrow><msub><mi>n</mi><mi>s</mi></msub><mo>=</mo><mo>[</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>s</mi><mn>1</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>s</mi><mn>2</mn></mrow></msub><mo>,</mo><msub><mover><mi>n</mi><mo>&RightArrow;</mo></mover><mrow><mi>s</mi><mn>3</mn></mrow></msub><mo>]</mo></mrow></math>]]></maths>通过式(3)和式(4)的运算得出旋转矩阵R和平移矩阵T;<maths num="0006"><![CDATA[<math><mrow><mi>R</mi><mo>=</mo><msub><mi>n</mi><mi>s</mi></msub><msup><msub><mi>n</mi><mi>o</mi></msub><mrow><mo>-</mo><mn>1</mn></mrow></msup></mrow><mrow><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>r</mi><mn>00</mn></msub></mtd><mtd><msub><mi>r</mi><mn>01</mn></msub></mtd><mtd><msub><mi>r</mi><mn>02</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>10</mn></msub></mtd><mtd><msub><mi>r</mi><mn>11</mn></msub></mtd><mtd><msub><mi>r</mi><mn>12</mn></msub></mtd></mtr><mtr><mtd><msub><mi>r</mi><mn>20</mn></msub></mtd><mtd><msub><mi>r</mi><mn>21</mn></msub></mtd><mtd><msub><mi>r</mi><mn>22</mn></msub></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>3</mn><mo>)</mo></mrow></mrow></math>]]></maths><maths num="0007"><![CDATA[<math><mrow><mi>T</mi><mo>=</mo><msub><mi>S</mi><mi>i</mi></msub><mo>-</mo><msub><mi>RP</mi><mi>i</mi></msub><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msub><mi>t</mi><mn>0</mn></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mn>1</mn></msub></mtd></mtr><mtr><mtd><msub><mi>t</mi><mn>2</mn></msub></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>4</mn><mo>)</mo></mrow></mrow></math>]]></maths>5)将所述旋转矩阵R通过式(5)计算获得绕二维相机坐标系的x轴、y轴和z轴沿逆时针方向的转角α、β和γ;旋转顺序是从x轴到y轴再到z轴;所述转角α、β和γ为非合作目标相对于二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>的三个姿态角;<maths num="0008"><![CDATA[<math><mrow><mfenced open='{' close=''><mtable><mtr><mtd><mi>&gamma;</mi><mo>=</mo><mo>-</mo><mi>arctan</mi><mfrac><msub><mi>r</mi><mn>01</mn></msub><msub><mi>r</mi><mn>00</mn></msub></mfrac></mtd></mtr><mtr><mtd><mi>&beta;</mi><mo>=</mo><mi>arctan</mi><mfrac><msub><mi>r</mi><mn>20</mn></msub><mrow><msub><mi>r</mi><mn>00</mn></msub><mi>cos</mi><mi>&gamma;</mi><mo>-</mo><msub><mi>r</mi><mn>10</mn></msub><mi>sin</mi><mi>&gamma;</mi></mrow></mfrac></mtd></mtr><mtr><mtd><mi>&alpha;</mi><mo>=</mo><mi>arctan</mi><mfrac><mrow><msub><mi>r</mi><mn>02</mn></msub><mi>sin</mi><mi>&gamma;</mi><mo>+</mo><msub><mi>r</mi><mn>12</mn></msub><mi>cos</mi><mi>&gamma;</mi></mrow><mrow><msub><mi>r</mi><mn>01</mn></msub><mi>sin</mi><mi>&gamma;</mi><mo>+</mo><msub><mi>r</mi><mn>11</mn></msub><mi>cos</mi><mi>&gamma;</mi></mrow></mfrac></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>5</mn><mo>)</mo></mrow></mrow></math>]]></maths>6)所述平移矩阵T,其中t<sub>0</sub>、t<sub>1</sub>和t<sub>2</sub>分别为非合作目标坐标系O<sub>o</sub>-X<sub>o</sub>Y<sub>o</sub>Z<sub>o</sub>相对于二维相机坐标系O<sub>s2</sub>-X<sub>s2</sub>Y<sub>s2</sub>Z<sub>s2</sub>在x轴、y轴和z轴上的平移量。
地址 230009 安徽省合肥市屯溪路193号