发明名称 基于机器视觉的多体投放位姿测量方法
摘要 本发明基于机器视觉的多体投放位姿测量方法属于计算机视觉测量技术领域,涉及一种适用于多投放物同时投放的位姿测量方法。测量方法先建立各投放物单体特征点先验模型,对各单体进行区分编号。对多视觉测量图像进行处理,对每帧图像中的所有特征点进行运算对特征点进行分组划分刚体,利用先验模型对组内特征点进行比对识别,利用单体中各特征点距离约束识别单体中各特征点。最后,利用坐标转换方式求得各帧图像中各投放物位姿参数。该方法通过刚体标记信息的约束,有效避免了由于视觉测量中各投放物相互干扰而引起的测量中断问题,可同时对多运动目标进行跟踪,有效的解决了多体投放物位姿测量问题。
申请公布号 CN106197263A 申请公布日期 2016.12.07
申请号 CN201610487510.5 申请日期 2016.06.28
申请人 大连理工大学 发明人 刘巍;马鑫;贾振元;刘惟肖
分类号 G01B11/00(2006.01)I;G01C1/00(2006.01)I 主分类号 G01B11/00(2006.01)I
代理机构 大连理工大学专利中心 21200 代理人 关慧贞
主权项 一种基于机器视觉的多体投放物位姿测量方法,其特征是,测量方法首先建立各投放物单体特征点先验模型,对各单体进行区分编号;然后对多视觉测量图像进行处理,对每帧图像中的所有特征点进行运算对特征点进行分组划分刚体,利用先验模型对组内特征点进行比对识别,利用单体中各特征点距离约束识别单体中各特征点;最后利用坐标转换方式求得各帧图像中各投放物位姿参数,该方法的具体提取步骤如下:第一步:先验模型建立首先要建立多投放物表面特征点的先验知识模型,每个单体内各特征点的距离信息所组成的向量被称为此单体的先验知识模型;单体的先验知识模型如下式所示:A<sub>I</sub>=[a<sub>I1</sub> ... a<sub>IN</sub>]              (1)其中:A<sub>I</sub>为第I个投放物编号,a<sub>I1</sub>为第I个投放物中第1个标记的距离先验知识信息,a<sub>IN</sub>为第I个投放物中第N个标记的距离先验知识信息;以此建立所有投放物刚体的先验知识模型;单体内先验模型为:a<sub>Ii</sub>=[L<sub>i1</sub> ... L<sub>in</sub>]              (2)其中:a<sub>Ii</sub>为第I个刚体第i个特征点先验知识模型,L<sub>i1</sub>为第i个特征点与单刚体内第1个特征点间距离,L<sub>in</sub>为第i个特征点与单刚体内第n个特征点间距离;由此建立所有投放物刚体内先验模型;第二步:基于时空关系的图像匹配方法根据光流方法找到同名标记点在不同时刻的图像坐标,并且绘制出同名标记点在一段时间内的运动轨迹;得到目标物表面标记点的轨迹之后,将左右图像的轨迹进行匹配;匹配的方法如下所示:1)首先对左图像轨迹起始点在右图像起始点中进行极限约束匹配,找到满足极限约束条件的右图像轨迹;2)再对左图像轨迹不同时刻与上步中筛选的右图像轨迹同一时刻点进行匹配,直到找到唯一一个与左图像匹配的右图像运动轨迹;3)最后左右图像两条轨迹中同一时刻的标记点即为匹配点;第三步:基于刚体不变性的多投放物体间特征区分求出图像特征点的三维坐标后,比较这些空间点的相对关系,寻找在时间变化情况下空间关系一直不变的特征点,进行分组;具体过程首先建立空间所有点与其他标记点之间距离向量,如下所示:<maths num="0001"><math><![CDATA[<mrow><msub><mi>G</mi><mi>i</mi></msub><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mrow><msup><msub><mi>l</mi><mrow><mi>i</mi><mn>1</mn></mrow></msub><mn>1</mn></msup></mrow></mtd><mtd><mo>...</mo></mtd><mtd><mrow><msup><msub><mi>l</mi><mrow><mi>i</mi><mi>n</mi></mrow></msub><mn>1</mn></msup></mrow></mtd></mtr><mtr><mtd><mtable><mtr><mtd><mrow></mrow></mtd></mtr><mtr><mtd><mrow></mrow></mtd></mtr><mtr><mtd><mrow></mrow></mtd></mtr></mtable></mtd><mtd><mtable><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr></mtable></mtd><mtd><mtable><mtr><mtd><mrow></mrow></mtd></mtr><mtr><mtd><mrow></mrow></mtd></mtr><mtr><mtd><mrow></mrow></mtd></mtr></mtable></mtd></mtr><mtr><mtd><mrow><msup><msub><mi>l</mi><mrow><mi>i</mi><mn>1</mn></mrow></msub><mi>t</mi></msup></mrow></mtd><mtd><mo>...</mo></mtd><mtd><mrow><msup><msub><mi>l</mi><mrow><mi>i</mi><mi>n</mi></mrow></msub><mi>t</mi></msup></mrow></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>3</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0001032858010000021.GIF" wi="985" he="279" /></maths>其中:G<sub>i</sub>的第t行是空间第i个标记点与其他空间标记点在时刻t下的距离信息向量,l<sub>i1</sub><sup>1</sup>是第一时刻下第i个点与第一个点的距离,l<sub>in</sub><sup>t</sup>是第t时刻下第i个点与第n个点的距离;以矩阵G<sub>i</sub>中在时间序列图像中位置关系一直不变的特征点为一组,从而完成多体分离图像特征点分组;最后利用先验模型方法对各分组内特征点进行组内识别,从而建立图像特征点与目标实物特征点的对应关系;第四步:单投放物内各特征点识别将不同被测物体上标记点进行区分之后,要对每个刚体内的每个标记点进行识别,识别方法是首先建立同一个刚体内标记点的距离测量向量,建立方法如下:g<sub>Jj</sub>=[l<sub>j1</sub> ... l<sub>jm</sub>]                  (4)其中l<sub>in</sub>是第J组第个j特征点与第J组第m个特征点的测量值,g<sub>Jj</sub>是第J组第j个特征点的距离测量向量;与先验模型a<sub>Ii</sub>(i=1:n)比对如下:min||l<sub>Jj</sub>‑a<sub>Ii</sub>||=min{l<sub>Jj</sub>‑L<sub>I1</sub>||,||l<sub>Jj</sub>‑L<sub>I2</sub>||...||l<sub>Jj</sub>‑L<sub>In</sub>||},i=1~n         (5)<maths num="0002"><math><![CDATA[<mrow><mi>h</mi><mrow><mo>(</mo><msub><mi>g</mi><mrow><mi>I</mi><mi>i</mi></mrow></msub><mo>,</mo><msub><mi>a</mi><mrow><mi>I</mi><mi>j</mi></mrow></msub><mo>)</mo></mrow><mo>=</mo><mfenced open = "[" close = "]"><mtable><mtr><mtd><mrow><mi>min</mi><mo>|</mo><mo>|</mo><msub><mi>l</mi><mrow><mi>I</mi><mn>1</mn></mrow></msub><mo>-</mo><msub><mi>L</mi><mrow><mi>I</mi><mi>n</mi></mrow></msub><mo>|</mo><mo>|</mo></mrow></mtd></mtr><mtr><mtd><mrow><mi>min</mi><mo>|</mo><mo>|</mo><msub><mi>l</mi><mrow><mi>I</mi><mn>2</mn></mrow></msub><mo>-</mo><msub><mi>L</mi><mrow><mi>I</mi><mi>n</mi></mrow></msub><mo>|</mo><mo>|</mo></mrow></mtd></mtr><mtr><mtd><mtable><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr></mtable></mtd></mtr><mtr><mtd><mrow><mi>min</mi><mo>|</mo><mo>|</mo><msub><mi>l</mi><mi>Im</mi></msub><mo>-</mo><msub><mi>L</mi><mrow><mi>I</mi><mi>n</mi></mrow></msub><mo>|</mo><mo>|</mo></mrow></mtd></mtr></mtable></mfenced><mo>,</mo><mi>i</mi><mo>=</mo><mn>1</mn><mo>~</mo><mi>n</mi><mo>;</mo><mi>j</mi><mo>=</mo><mn>1</mn><mo>~</mo><mi>m</mi><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>6</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0001032858010000031.GIF" wi="1363" he="299" /></maths>其中:h(g<sub>Jj</sub>,a<sub>Ii</sub>)是第J组第j点与第I组第i点的距离差值,当值最小时两点匹配;目标体G<sub>Jj</sub>与目标体A<sub>Ii</sub>距离差值:<maths num="0003"><math><![CDATA[<mrow><mi>H</mi><mrow><mo>(</mo><msub><mi>G</mi><mi>J</mi></msub><mo>,</mo><msub><mi>A</mi><mi>I</mi></msub><mo>)</mo></mrow><mo>=</mo><mo>|</mo><mo>|</mo><mtable><mtr><mtd><mrow><mi>M</mi><mrow><mo>(</mo><mrow><msub><mi>g</mi><mrow><mi>J</mi><mn>1</mn></mrow></msub><mo>,</mo><msub><mi>a</mi><mrow><mi>I</mi><mi>i</mi></mrow></msub></mrow><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><mi>M</mi><mrow><mo>(</mo><mrow><msub><mi>g</mi><mrow><mi>J</mi><mn>2</mn></mrow></msub><mo>,</mo><msub><mi>a</mi><mrow><mi>I</mi><mi>i</mi></mrow></msub></mrow><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mtable><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr><mtr><mtd><mo>.</mo></mtd></mtr></mtable></mtd></mtr><mtr><mtd><mrow><mi>M</mi><mrow><mo>(</mo><mrow><msub><mi>g</mi><mrow><mi>J</mi><mi>m</mi></mrow></msub><mo>,</mo><msub><mi>a</mi><mrow><mi>I</mi><mi>i</mi></mrow></msub></mrow><mo>)</mo></mrow></mrow></mtd></mtr></mtable><mo>|</mo><mo>|</mo><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>7</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0001032858010000032.GIF" wi="1229" he="291" /></maths>其中:H(G<sub>J</sub>,A<sub>I</sub>)是目标体J与目标体I的距离差值,M(g<sub>Jj</sub>,a<sub>Ii</sub>)是h(g<sub>Jj</sub>,a<sub>Ii</sub>)的最小值,当H(G<sub>J</sub>,A<sub>I</sub>)值最小时,两目标体匹配,完成图像与先验模型的匹配识别;第五步:坐标转换求取位姿参数用以识别的特征点建立单个投放物局部坐标系O<sub>t</sub>X<sub>t</sub>Y<sub>t</sub>Z<sub>t</sub>为:世界坐标系中任意点p<sub>ow</sub>=(x<sub>p</sub> y<sub>p</sub> z<sub>p</sub>)<sup>T</sup>在局部坐标系O<sub>t</sub>X<sub>t</sub>Y<sub>t</sub>Z<sub>t</sub>下的坐标为p<sub>ow</sub>=(x<sub>t</sub> y<sub>t</sub> z<sub>t</sub>)<sup>T</sup>:<maths num="0004"><math><![CDATA[<mrow><mfenced open = "[" close = "]"><mtable><mtr><mtd><msub><mi>x</mi><mi>t</mi></msub></mtd></mtr><mtr><mtd><msub><mi>y</mi><mi>t</mi></msub></mtd></mtr><mtr><mtd><msub><mi>z</mi><mi>t</mi></msub></mtd></mtr></mtable></mfenced><mo>=</mo><msub><mi>R</mi><mrow><mi>w</mi><mi>b</mi></mrow></msub><mfenced open = "[" close = "]"><mtable><mtr><mtd><mrow><msub><mi>x</mi><mi>p</mi></msub><mo>-</mo><msub><mi>x</mi><mn>0</mn></msub></mrow></mtd></mtr><mtr><mtd><mrow><msub><mi>y</mi><mi>p</mi></msub><mo>-</mo><msub><mi>y</mi><mn>0</mn></msub></mrow></mtd></mtr><mtr><mtd><mrow><msub><mi>z</mi><mi>p</mi></msub><mo>-</mo><msub><mi>z</mi><mn>0</mn></msub></mrow></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>8</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0001032858010000033.GIF" wi="923" he="268" /></maths>其中:T<sub>wb</sub>=(x<sub>0</sub> y<sub>0</sub> z<sub>0</sub>)为目标体坐标系原点即被测物体质心在世界坐标系中的坐标;R<sub>wb</sub>为局部坐标系相对于世界坐标系的旋转矩阵;<maths num="0005"><math><![CDATA[<mrow><mtable><mtr><mtd><mrow><msub><mi>R</mi><mrow><mi>w</mi><mi>b</mi></mrow></msub><mo>=</mo></mrow></mtd></mtr><mtr><mtd><mfenced open = "[" close = "]"><mtable><mtr><mtd><mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow><mo>-</mo><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow><mo>+</mo><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mo>-</mo><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><mo>-</mo><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow></mrow></mtd></mtr><mtr><mtd><mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow><mo>+</mo><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow><mo>-</mo><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>sin</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Z</mi></msub><mo>)</mo></mrow></mrow></mtd><mtd><mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>Y</mi></msub><mo>)</mo></mrow><mi>cos</mi><mrow><mo>(</mo><msub><mi>&theta;</mi><mi>X</mi></msub><mo>)</mo></mrow></mrow></mtd></mtr></mtable></mfenced></mtd></mtr></mtable><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>9</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0001032858010000041.GIF" wi="1702" he="299" /></maths>其中,‑θ<sub>Z</sub>,‑θ<sub>X</sub>,‑θ<sub>Y</sub>为投放物相对于世界坐标系的偏航角,俯仰角和滚转角,求得R<sub>wb</sub>,T<sub>wb</sub>即单个投放物对于世界坐标系的位姿信息,以此求得所有投放物位姿信息。
地址 116024 辽宁省大连市甘井子区凌工路2号