发明名称 一种面向大视场高精度视觉测量的摄像机标定方法
摘要 本发明提供一种面向大视场高精度视觉测量的摄像机标定方法,属于测量、测试领域。本发明采用亮度自适应的单个红外LED作为目标靶点,将该靶点固定在三维数控机械装置上,并控制其移动至预先设定的空间位置。在三维空间构成一个虚拟立体靶标。每次靶点到达设定的空间位置时,摄像机对靶点进行图像采集。通过自由移动摄像机在多个方位对虚拟立体靶标进行拍摄,使得多个虚拟立体靶标分布于整个摄像机的标定空间。摄像机在每个方位对虚拟立体靶标的拍摄都计算出一组摄像机的内、外参数,以作为后续优化的初值。最后基于多方位拍摄的虚拟立体靶标进行标定参数的整体优化。本发明可以有效提高大视场摄像机的标定精度。
申请公布号 CN102663763B 申请公布日期 2014.08.13
申请号 CN201210125199.1 申请日期 2012.04.25
申请人 南京航空航天大学 发明人 张丽艳;杨博文;叶南;孙楠
分类号 G06T7/00(2006.01)I 主分类号 G06T7/00(2006.01)I
代理机构 南京经纬专利商标代理有限公司 32200 代理人 叶连生
主权项 一种面向大视场高精度视觉测量的摄像机标定方法,其特征在于包括如下步骤:步骤一:初始化标定过程在三维数控移动装置上固定好一个亮度可以自适应控制的红外LED靶点,在三维数控移动装置的行程内确定n个靶点预设位置,要求n≥6;在摄像机标定空间内确定m个摄像机拍摄方位,要求各个拍摄方位下的虚拟立体靶标累积分布于摄像机坐标系下的整个标定空间,赋予当前拍摄方位标志j=1,取三维数控移动装置的坐标系为世界坐标系;步骤二:把摄像机放置于第j个拍摄方位,置靶点当前预设位置标志i=1步骤三:在第j个方位下拍摄虚拟立体靶标测量机精确移动靶点至第i个预设位置P<sub>i</sub>,并由摄像机对P<sub>i</sub>位置处的靶点进行图像采集,记此时的靶点图像坐标为p<sub>ij</sub>,然后判断在第j个拍摄方位下是否已遍历了全部n个预设靶点位置,如果是则进入步骤四,否则,将靶点的当前预设位置标志i增加1,即i←i+1,重复本步骤过程,直到遍历全部n个预设靶点位置,由此在三维空间构成一个虚拟立体靶标,并获得虚拟立体靶标每一个靶点位置在第j个拍摄方位下的图像;步骤四:由第j个摄像机方位下拍摄的虚拟立体靶标求解摄像机内、外参数根据线性摄像机模型有:<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><mi>&lambda;</mi><mfenced open='[' close=']'><mtable><mtr><mtd><msub><mi>u</mi><mi>ij</mi></msub></mtd></mtr><mtr><mtd><msub><mi>v</mi><mi>ij</mi></msub></mtd></mtr><mtr><mtd><mn>1</mn></mtd></mtr></mtable></mfenced><mo>=</mo><mfenced open='[' close=']'><mtable><mtr><mtd><msub><mi>&alpha;</mi><mi>x</mi></msub></mtd><mtd><mn>0</mn></mtd><mtd><msub><mi>u</mi><mn>0</mn></msub></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><msub><mi>&alpha;</mi><mi>y</mi></msub></mtd><mtd><msub><mi>v</mi><mn>0</mn></msub></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd></mtr></mtable></mfenced><mfenced open='[' close=']'><mtable><mtr><mtd><msub><mi>R</mi><mi>j</mi></msub></mtd><mtd><msub><mi>t</mi><mi>j</mi></msub></mtd></mtr></mtable></mfenced><mfenced open='[' close=']'><mtable><mtr><mtd><msub><mi>X</mi><mi>i</mi></msub></mtd></mtr><mtr><mtd><msub><mi>Y</mi><mi>i</mi></msub></mtd></mtr><mtr><mtd><msub><mi>Z</mi><mi>i</mi></msub></mtd></mtr><mtr><mtd><mn>1</mn></mtd></mtr></mtable></mfenced><mo>=</mo><msub><mi>M</mi><mi>j</mi></msub><msub><mover><mi>P</mi><mo>~</mo></mover><mi>i</mi></msub><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>1</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000467471230000011.GIF" wi="1225" he="231" /></maths>其中[u<sub>ij</sub>,v<sub>ij</sub>,1]<sup>T</sup>是空间靶点P<sub>i</sub>在第j个摄像机方位下根据线性成像模型可以得到的像素单位的无畸变图像坐标p<sub>ij</sub>的齐次形式,<img file="FDA0000467471230000012.GIF" wi="391" he="72" />为点P<sub>i</sub>的世界坐标的齐次形式,R<sub>j</sub>和t<sub>j</sub>分别表示世界坐标系到摄像机坐标系的旋转矩阵与平移向量,α<sub>x</sub>和α<sub>y</sub>分别表示摄像机在图像中两个坐标轴方向的等效焦距,(u<sub>0</sub>,v<sub>0</sub>)是摄像机主点的图像坐标,M<sub>j</sub>为第j个摄像机方位下的投影矩阵,λ为一常系数;记<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><mi>A</mi><mo>=</mo><mfenced open='[' close=']'><mtable><mtr><mtd><msub><mi>&alpha;</mi><mi>x</mi></msub></mtd><mtd><mn>0</mn></mtd><mtd><msub><mi>u</mi><mn>0</mn></msub></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><msub><mi>&alpha;</mi><mi>y</mi></msub></mtd><mtd><msub><mi>v</mi><mn>0</mn></msub></mtd></mtr><mtr><mtd><mn>0</mn></mtd><mtd><mn>0</mn></mtd><mtd><mn>1</mn></mtd></mtr></mtable></mfenced></mrow>]]></math><img file="FDA0000467471230000013.GIF" wi="299" he="176" /></maths>称矩阵A为摄像机的内参数矩阵,R<sub>j</sub>和t<sub>j</sub>为第j个摄像机方位下的摄像机外参数;将(1)式整理可得如下两个线性方程:X<sub>i</sub>m<sub>11</sub>+Y<sub>i</sub>m<sub>12</sub>+Z<sub>i</sub>m<sub>13</sub>+m<sub>14</sub>‑u<sub>ij</sub>X<sub>i</sub>m<sub>31</sub>‑u<sub>ij</sub>Y<sub>i</sub>m<sub>32</sub>‑u<sub>ij</sub>Z<sub>i</sub>m<sub>33</sub>‑u<sub>ij</sub>m<sub>34</sub>=0   (2)X<sub>i</sub>m<sub>21</sub>+Y<sub>i</sub>m<sub>22</sub>+Z<sub>i</sub>m<sub>23</sub>+m<sub>24</sub>‑v<sub>ij</sub>X<sub>i</sub>m<sub>31</sub>‑v<sub>ij</sub>Y<sub>i</sub>m<sub>32</sub>‑v<sub>ij</sub>Z<sub>i</sub>m<sub>33</sub>‑v<sub>ij</sub>m<sub>34</sub>=0其中m<sub>pq</sub>是矩阵M<sub>j</sub>的第p行q列元素,其中p=1,2,3;q=1,2,3,4;根据虚拟立体靶标中的n个靶点由(2)式形成2n个关于m<sub>pq</sub>的线性方程,其中p=1,2,3;q=1,2,3,4,由于是齐次方程,因此令m<sub>34</sub>=1;又因为虚拟立体靶标中的靶点个数n≥6,因此,可以根据2n个方程通过最小二乘法求解出投影矩阵M<sub>j</sub>;对矩阵M<sub>j</sub>进行RQ分解,求出摄像机在线性模型下的内参数矩阵A,和第j个摄像机方位下摄像机的外参数R<sub>j</sub>和t<sub>j</sub>,作为下面非线性优化的初始值;由于摄像机系统还可能存在非线性畸变,因此考虑非线性畸变对标定参数做进一步优化;根据成像几何关系,有<maths num="0003" id="cmaths0003"><math><![CDATA[<mrow><mfenced open='{' close=''><mtable><mtr><mtd><msub><mi>u</mi><mi>ij</mi></msub><mo>=</mo><msub><mi>u</mi><mn>0</mn></msub><mo>+</mo><msub><mi>&alpha;</mi><mi>x</mi></msub><mo>&CenterDot;</mo><msub><mi>x</mi><mi>ij</mi></msub></mtd></mtr><mtr><mtd><msub><mi>v</mi><mi>ij</mi></msub><mo>=</mo><msub><mi>v</mi><mn>0</mn></msub><mo>+</mo><msub><mi>&alpha;</mi><mi>y</mi></msub><mo>&CenterDot;</mo><msub><mi>y</mi><mi>ij</mi></msub></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>3</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000467471230000021.GIF" wi="1034" he="122" /></maths>其中(x<sub>ij</sub>,y<sub>ij</sub>)是空间点P<sub>i</sub>在第j个拍摄方位下的归一化图像坐标系下长度单位的无畸变的投影点坐标;摄像机成像系统的畸变模型取为:<maths num="0004" id="cmaths0004"><math><![CDATA[<mrow><mfenced open='{' close=''><mtable><mtr><mtd><msub><mi>x</mi><mi>dij</mi></msub><mo>=</mo><msub><mi>x</mi><mi>ij</mi></msub><mo>+</mo><msub><mi>k</mi><mn>1</mn></msub><msub><mi>x</mi><mi>ij</mi></msub><msubsup><mi>r</mi><mi>ij</mi><mn>2</mn></msubsup><mo>+</mo><msub><mi>k</mi><mn>2</mn></msub><msub><mi>x</mi><mi>ij</mi></msub><msubsup><mi>r</mi><mi>ij</mi><mn>4</mn></msubsup><mo>+</mo><msub><mi>p</mi><mn>1</mn></msub><mrow><mo>(</mo><mn>3</mn><msubsup><mi>x</mi><mi>ij</mi><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>y</mi><mi>ij</mi><mn>2</mn></msubsup><mo>)</mo></mrow><mo>+</mo><mn>2</mn><msub><mi>p</mi><mn>2</mn></msub><msub><mi>x</mi><mi>ij</mi></msub><msub><mi>y</mi><mi>ij</mi></msub><mo>+</mo><msub><mi>s</mi><mn>1</mn></msub><msubsup><mi>r</mi><mi>ij</mi><mn>2</mn></msubsup></mtd></mtr><mtr><mtd><msub><mi>y</mi><mi>dij</mi></msub><mo>=</mo><msub><mi>y</mi><mi>ij</mi></msub><mo>+</mo><msub><mi>k</mi><mn>1</mn></msub><msub><mi>y</mi><mi>ij</mi></msub><msubsup><mi>r</mi><mi>ij</mi><mn>2</mn></msubsup><mo>+</mo><msub><mi>k</mi><mn>2</mn></msub><msub><mi>y</mi><mi>ij</mi></msub><msubsup><mi>r</mi><mi>ij</mi><mn>4</mn></msubsup><mo>+</mo><mn>2</mn><msub><mi>p</mi><mn>1</mn></msub><msub><mi>x</mi><mi>ij</mi></msub><msub><mi>y</mi><mi>ij</mi></msub><mo>+</mo><msub><mi>p</mi><mn>2</mn></msub><mrow><mo>(</mo><msubsup><mi>x</mi><mi>ij</mi><mn>2</mn></msubsup><mo>+</mo><mn>3</mn><msubsup><mi>y</mi><mi>ij</mi><mn>2</mn></msubsup><mo>)</mo></mrow><msub><mi>s</mi><mn>2</mn></msub><msubsup><mi>r</mi><mi>ij</mi><mn>2</mn></msubsup></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>4</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000467471230000022.GIF" wi="1435" he="142" /></maths>其中(x<sub>dij</sub>,y<sub>dij</sub>)为空间点P<sub>i</sub>在第j个拍摄方位下的归一化图像坐标系下长度单位的带畸变的投影点坐标;<img file="FDA0000467471230000023.GIF" wi="262" he="81" />k<sub>1</sub>、k<sub>2</sub>、p<sub>1</sub>、p<sub>2</sub>、s<sub>1</sub>、s<sub>2</sub>分别是一阶和二阶的径向、切向及薄棱镜畸变参数,它们与α<sub>x</sub>、α<sub>y</sub>、u<sub>0</sub>、v<sub>0</sub>一起构成非线性模型的摄像机内部参数;由于不同摄像机方位下解算出的内参数会有所不同,因此记第j个摄像机方位下计算出的摄像机内参数矩阵为A<sub>j</sub>,畸变参数分别为k<sub>1j</sub>,k<sub>2j</sub>,p<sub>1j</sub>,p<sub>2j</sub>,s<sub>1j</sub>,s<sub>2j</sub>,建立以虚拟立体靶标上各靶点P<sub>i</sub>重投影误差的平方和为最小的目标函数,其表达式为<maths num="0005" id="cmaths0005"><math><![CDATA[<mrow><mi>min</mi><msubsup><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></msubsup><msub><mi>dis</mi><mi>i</mi></msub><mrow><mo>(</mo><msub><mi>A</mi><mi>j</mi></msub><mo>,</mo><msub><mi>k</mi><mrow><mn>1</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>k</mi><mrow><mn>2</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>p</mi><mrow><mn>1</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>p</mi><mrow><mn>2</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>s</mi><mrow><mn>1</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>s</mi><mrow><mn>2</mn><mi>j</mi></mrow></msub><mo>,</mo><msub><mi>R</mi><mi>j</mi></msub><mo>,</mo><msub><mi>t</mi><mi>j</mi></msub><mo>)</mo></mrow><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>5</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000467471230000024.GIF" wi="1190" he="77" /></maths>式中dis<sub>i</sub>(A<sub>j</sub>,k<sub>1j</sub>,k<sub>2j</sub>,p<sub>1j</sub>,p<sub>2j</sub>,s<sub>1j</sub>,s<sub>2j</sub>,R<sub>j</sub>,t<sub>j</sub>)表示空间点P<sub>i</sub>根据非线性摄像机模型重投影到归一化图像平面上的带畸变的图像点与P<sub>i</sub>在归一化图像平面上的实际图像点之间的距离的平方,其中i=1,2,…,n;采用非线性优化算法获得式(5)中的优化变量A<sub>j</sub>,k<sub>1j</sub>,k<sub>2j</sub>,p<sub>1j</sub>,p<sub>2j</sub>,s<sub>1j</sub>,s<sub>2j</sub>,R<sub>j</sub>,t<sub>j</sub>的最优解,迭代中A<sub>j</sub>,R<sub>j</sub>,t<sub>j</sub>的初值由线性模型下的标定结果得到,畸变参数k<sub>1j</sub>,k<sub>2j</sub>,p<sub>1j</sub>,p<sub>2j</sub>,s<sub>1j</sub>,s<sub>2j</sub>的初始值均设为0;步骤五:判断摄像机的拍摄方位j是否已经等于m,如果是则进入步骤六,否则,将当前拍摄方位标志j增加1,即j←j+1,重复步骤二至步骤五的过程,直到摄像机完成m个拍摄方位下的虚拟立体靶标的拍摄步骤六:基于多方位虚拟立体靶标进行标定参数优化根据摄像机在世界坐标系下相对于虚拟立体靶标的各方位参数R<sub>j</sub>、t<sub>j</sub>,得到各次拍摄的虚拟立体靶标在摄像机坐标系下的方位参数<img file="FDA0000467471230000031.GIF" wi="166" he="71" />作为进一步优化的初值,其中<img file="FDA0000467471230000032.GIF" wi="452" he="88" />建立以各方位下拍摄的虚拟立体靶标中的每个靶点的重投影误差平方和为最小的目标函数,其表达式为<maths num="0006" id="cmaths0006"><math><![CDATA[<mrow><mi>min</mi><msubsup><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><mi>m</mi></msubsup><msubsup><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></msubsup><msub><mi>dis</mi><mi>ij</mi></msub><mrow><mo>(</mo><mi>A</mi><mo>,</mo><msub><mi>k</mi><mn>1</mn></msub><mo>,</mo><msub><mi>k</mi><mn>2</mn></msub><mo>,</mo><msub><mi>p</mi><mn>1</mn></msub><mo>,</mo><msub><mi>p</mi><mn>2</mn></msub><mo>,</mo><msub><mi>s</mi><mn>1</mn></msub><mo>,</mo><msub><mi>s</mi><mn>2</mn></msub><mo>,</mo><msub><mover><mi>R</mi><mo>^</mo></mover><mi>j</mi></msub><mo>,</mo><msub><mover><mi>t</mi><mo>^</mo></mover><mi>j</mi></msub><mo>)</mo></mrow><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>3</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000467471230000033.GIF" wi="1332" he="97" /></maths>其中<img file="FDA0000467471230000034.GIF" wi="646" he="89" />表示靶点P<sub>i</sub>在第j个拍摄方位下根据非线性摄像机模型重投影到归一化图像平面上的带畸变的图像点与P<sub>i</sub>在相应的归一化图像平面上的实际图像点之间的距离的平方;选取一个摄像机方位下由步骤四所获得的内参数矩阵和畸变系数为初值,通过非线性优化算法获得摄像机的最终标定结果。
地址 210016 江苏省南京市白下区御道街29号