发明名称 一种移动平台下运动目标检测的MOF方法
摘要 本发明公开了一种移动平台下运动目标检测的MOF方法,依次进行主平面检测、目标与背景点非均匀采样、混合金字塔光流计算、背景MOF的鲁棒性估计、混合背景分布更新、MOF残差图计算、MOF目标分割,本发明能够根据基于主平面的混合金字塔光流实现光流稳定点的提取与计算,并根据实际图像的运动场补偿摄像机的平移旋转缩放等运动,同时在保证算法准确性与鲁棒性的前提下,计算量大大减少。
申请公布号 CN103236053A 申请公布日期 2013.08.07
申请号 CN201310117727.3 申请日期 2013.04.07
申请人 南京理工大学 发明人 顾国华;陈海欣;杨陈晨;王厚;钱惟贤;陈钱;徐富元;任侃;隋修宝;何伟基;路东明
分类号 G06T7/00(2006.01)I 主分类号 G06T7/00(2006.01)I
代理机构 南京理工大学专利中心 32203 代理人 唐代盛
主权项 1.一种移动平台下运动目标检测的MOF方法,其特征在于步骤如下:第一步,主平面检测,对原始图像进行基于相位匹配的主平面检测,获得主平面的x和y轴方向的帧间位移dx、dy;第二步,目标与背景点的非均匀性采样,将第一步获得主平面的x和y轴方向的帧间位移dx、dy后,进行帧间相减,消除主平面,获得候选兴趣点,其中包括ISO以及IMO,ISO是由于视差所带来伪运动目标,IMO是真实的运动目标;同时,对当前帧进行步长为Step的均匀性采样,即以每个采样像素为中心的W×W邻域内,选取梯度幅度最大的点,从而获得候选背景兴趣点;第三步,混合金字塔光流计算,建立基于主平面的混合金字塔模型,即以第一步中主平面检测的帧间位移作为金字塔光流的底层,同时在第二层进行传统的单层光流计算;同时将候选兴趣点检测与光流计算统一,以上述方法计算得到的光流场为第三层输入初始光流场,从当前帧向逆推前一帧,若前一帧对应点的光流场经逆推后仍能回到自身,则称该点为动态稳定角点,从而在获得光流场的同时自动获得稳定的角点;第四步,背景MOF矩阵估计,即首先,建立MOF模型,以透镜光心O为原点,Z轴平行于摄像机透镜光轴,X、Y轴平行于摄相机像平面,其中物平面场景坐标M(X,Y,Z),像平面场景坐标m(x,y,z),根据几何光学知识,得到如下近似方程:<maths num="0001"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><mfrac><mi>X</mi><mi>Z</mi></mfrac><mo>=</mo><mfrac><mi>x</mi><mi>z</mi></mfrac></mtd></mtr><mtr><mtd><mfrac><mi>Y</mi><mi>Z</mi></mfrac><mo>=</mo><mfrac><mi>y</mi><mi>z</mi></mfrac></mtd></mtr><mtr><mtd><mi>dz</mi><mo>=</mo><mn>0</mn></mtd></mtr></mtable></mfenced></math>]]></maths>由于X、Y在数学上等效,下面对X轴的分析,Y轴可同理推出;对上式全微分可得MOF摄相机基本方程:<maths num="0002"><![CDATA[<math><mrow><mi>dx</mi><mo>=</mo><mo>-</mo><mfrac><mi>dZ</mi><mi>Z</mi></mfrac><mrow><mo>(</mo><mi>x</mi><mo>-</mo><mi>z</mi><mfrac><mi>dX</mi><mi>dZ</mi></mfrac><mo>)</mo></mrow></mrow></math>]]></maths>由于摄相机的平移旋转:<maths num="0003"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><mi>X</mi><mo>=</mo><msub><mi>X</mi><mi>t</mi></msub><mo>+</mo><msub><mi>X</mi><mi>r</mi></msub></mtd></mtr><mtr><mtd><mi>Y</mi><mo>=</mo><msub><mi>Y</mi><mi>t</mi></msub><mo>+</mo><msub><mi>Y</mi><mi>r</mi></msub></mtd></mtr></mtable></mfenced></math>]]></maths>其中(X<sub>t</sub>,Y<sub>t</sub>)为摄像机的平移矢量,(X<sub>r</sub>,Y<sub>r</sub>)为摄像机的旋转矢量;其次,定义摄像机旋转中心(X<sub>F</sub>,Y<sub>F</sub>),其中摄像机旋转中心满足以下方程:<maths num="0004"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><msup><mi>R</mi><mn>2</mn></msup><mo>=</mo><msup><mrow><mo>(</mo><mi>X</mi><mo>-</mo><msub><mi>X</mi><mi>F</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><mi>Y</mi><mo>-</mo><msub><mi>Y</mi><mi>F</mi></msub><mo>)</mo></mrow><mn>2</mn></msup></mtd></mtr><mtr><mtd><msup><mrow><mo>(</mo><msub><mi>dX</mi><mi>r</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><msub><mi>dY</mi><mi>r</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>=</mo><msup><mi>R</mi><mn>2</mn></msup><msup><mrow><mo>(</mo><mn>2</mn><mi>sin</mi><mrow><mo>(</mo><mfrac><mi>d&theta;</mi><mn>2</mn></mfrac><mo>)</mo></mrow><mo>)</mo></mrow><mn>2</mn></msup><mo>&ap;</mo><msup><mi>R</mi><mn>2</mn></msup><msup><mi>&omega;</mi><mn>2</mn></msup></mtd></mtr></mtable></mfenced></math>]]></maths>最终,得到如下MOF基本方程:<maths num="0005"><![CDATA[<math><mrow><mi>A</mi><mrow><mo>(</mo><msup><mi>x</mi><mn>2</mn></msup><mo>+</mo><msup><mi>y</mi><mn>2</mn></msup><mo>)</mo></mrow><mo>+</mo><mi>C</mi><mo>+</mo><mi>Dx</mi><mo>+</mo><mi>Ey</mi><mo>+</mo><mi>F</mi><mrow><mo>(</mo><msub><mi>xv</mi><mi>x</mi></msub><mo>+</mo><msub><mi>yv</mi><mi>y</mi></msub><mo>)</mo></mrow><mo>+</mo><mi>G</mi><mrow><mo>(</mo><msub><mi>v</mi><mi>x</mi></msub><mo>)</mo></mrow><mo>+</mo><mi>H</mi><mrow><mo>(</mo><msub><mi>v</mi><mi>y</mi></msub><mo>)</mo></mrow><mo>=</mo><msubsup><mi>v</mi><mi>x</mi><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>v</mi><mi>y</mi><mn>2</mn></msubsup></mrow></math>]]></maths>其中MOF基本矩阵与MOF无视差矩阵分别如下所示:<maths num="0006"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><mi>A</mi><mo>=</mo><msup><mi>&omega;</mi><mn>2</mn></msup><mo>-</mo><msup><mrow><mo>(</mo><mfrac><msub><mi>T</mi><mi>z</mi></msub><mi>Z</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup></mtd></mtr><mtr><mtd><mi>C</mi><mo>=</mo><msup><mi>&omega;</mi><mn>2</mn></msup><mrow><mo>(</mo><msubsup><mi>x</mi><mi>F</mi><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>y</mi><mi>F</mi><mn>2</mn></msubsup><mo>)</mo></mrow><mo>-</mo><msup><mrow><mo>(</mo><mfrac><mi>z</mi><mi>Z</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup><mrow><mo>(</mo><msubsup><mi>T</mi><msub><mi>x</mi><mi>o</mi></msub><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>T</mi><msub><mi>y</mi><mi>o</mi></msub><mn>2</mn></msubsup><mo>)</mo></mrow></mtd></mtr><mtr><mtd><mi>D</mi><mo>=</mo><mn>2</mn><mfrac><msub><mi>T</mi><mi>z</mi></msub><mi>z</mi></mfrac><msub><mi>T</mi><msub><mi>x</mi><mi>o</mi></msub></msub><msup><mrow><mo>(</mo><mfrac><mi>z</mi><mi>Z</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup><mo>-</mo><mn>2</mn><msup><mi>&omega;</mi><mn>2</mn></msup><msub><mi>x</mi><mi>F</mi></msub></mtd></mtr><mtr><mtd><mi>E</mi><mo>=</mo><mn>2</mn><mfrac><msub><mi>T</mi><mi>z</mi></msub><mi>z</mi></mfrac><msub><mi>T</mi><msub><mi>y</mi><mi>o</mi></msub></msub><msup><mrow><mo>(</mo><mfrac><mi>z</mi><mi>Z</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup><mo>-</mo><mn>2</mn><msup><mi>&omega;</mi><mn>2</mn></msup><msub><mi>y</mi><mi>F</mi></msub></mtd></mtr><mtr><mtd><mi>F</mi><mo>=</mo><mn>2</mn><mfrac><msub><mi>T</mi><mi>z</mi></msub><mi>Z</mi></mfrac></mtd></mtr><mtr><mtd><mi>G</mi><mo>=</mo><mn>2</mn><mfrac><msub><mi>zT</mi><msub><mi>x</mi><mn>0</mn></msub></msub><mi>Z</mi></mfrac></mtd></mtr><mtr><mtd><mi>H</mi><mo>=</mo><mn>2</mn><mfrac><msub><mi>zT</mi><msub><mi>y</mi><mn>0</mn></msub></msub><mi>Z</mi></mfrac></mtd></mtr></mtable></mfenced></math>]]></maths><maths num="0007"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><msup><mi>&omega;</mi><mn>2</mn></msup><mo>=</mo><mi>A</mi><mo>-</mo><mfrac><mn>1</mn><mn>4</mn></mfrac><msup><mrow><mo>(</mo><mi>F</mi><mo>)</mo></mrow><mn>2</mn></msup></mtd></mtr><mtr><mtd><msub><mi>x</mi><mn>0</mn></msub><mo>=</mo><mfrac><msub><mi>T</mi><msub><mi>x</mi><mi>o</mi></msub></msub><msub><mi>T</mi><mi>z</mi></msub></mfrac><mi>z</mi></mtd></mtr><mtr><mtd><msub><mi>y</mi><mn>0</mn></msub><mo>=</mo><mfrac><msub><mi>T</mi><msub><mi>y</mi><mi>o</mi></msub></msub><msub><mi>T</mi><mi>z</mi></msub></mfrac><mi>z</mi></mtd></mtr></mtable></mfenced></math>]]></maths>其中,<img file="FDA00003014186100025.GIF" wi="228" he="69" />T<sub>z</sub>为摄像机的三维运动速度,z为相机像平面;由MOF模型,获得上式所示的三个视差无关参数ω、x<sub>0</sub>、y<sub>0</sub>,记为MOF无视差矩阵,利用MOF无视差矩阵在混合背景建立时剔除IMO,以及运动目标检测时的ISO剔除与IMO合并,MOF基本方程写成矩阵形式如下:<maths num="0008"><![CDATA[<math><mrow><mfenced open='(' close=')'><mtable><mtr><mtd><msubsup><mi>x</mi><mn>1</mn><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>y</mi><mn>1</mn><mn>2</mn></msubsup></mtd><mtd><mn>1</mn></mtd><mtd><msub><mi>x</mi><mn>1</mn></msub></mtd><mtd><msub><mi>y</mi><mn>1</mn></msub></mtd><mtd><msub><mi>x</mi><mn>1</mn></msub><msub><mi>v</mi><msub><mi>x</mi><mn>1</mn></msub></msub><mo>+</mo><msub><mi>y</mi><mn>1</mn></msub><msub><mi>v</mi><msub><mi>y</mi><mn>1</mn></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>x</mi><mn>1</mn></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>y</mi><mn>1</mn></msub></msub></mtd></mtr><mtr><mtd><msubsup><mi>x</mi><mn>2</mn><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>y</mi><mn>2</mn><mn>2</mn></msubsup></mtd><mtd><mn>1</mn></mtd><mtd><msub><mi>x</mi><mn>2</mn></msub></mtd><mtd><msub><mi>y</mi><mn>2</mn></msub></mtd><mtd><msub><mi>x</mi><mn>2</mn></msub><msub><mi>v</mi><msub><mi>x</mi><mn>2</mn></msub></msub><mo>+</mo><msub><mi>y</mi><mn>2</mn></msub><msub><mi>v</mi><msub><mi>y</mi><mn>2</mn></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>x</mi><mn>2</mn></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>y</mi><mn>2</mn></msub></msub></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><msubsup><mi>x</mi><mi>N</mi><mn>2</mn></msubsup><mrow><mo>+</mo><msubsup><mi>y</mi><mi>N</mi><mn>2</mn></msubsup></mrow></mtd><mtd><mn>1</mn></mtd><mtd><msub><mi>x</mi><mi>N</mi></msub></mtd><mtd><msub><mi>y</mi><mi>N</mi></msub></mtd><mtd><msub><mi>x</mi><mi>N</mi></msub><msub><mi>v</mi><msub><mi>x</mi><mi>N</mi></msub></msub><mo>+</mo><msub><mi>y</mi><mi>N</mi></msub><msub><mi>v</mi><msub><mi>y</mi><mi>N</mi></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>x</mi><mi>N</mi></msub></msub></mtd><mtd><msub><mi>v</mi><msub><mi>y</mi><mi>N</mi></msub></msub></mtd></mtr></mtable></mfenced><mfenced open='(' close=')'><mtable><mtr><mtd><mi>A</mi></mtd></mtr><mtr><mtd><mi>C</mi></mtd></mtr><mtr><mtd><mi>D</mi></mtd></mtr><mtr><mtd><mi>E</mi></mtd></mtr><mtr><mtd><mi>F</mi></mtd></mtr><mtr><mtd><mi>G</mi></mtd></mtr><mtr><mtd><mi>H</mi></mtd></mtr></mtable></mfenced><mo>=</mo><mfenced open='(' close=')'><mtable><mtr><mtd><msubsup><mi>v</mi><msub><mi>x</mi><mn>1</mn></msub><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>v</mi><msub><mi>y</mi><mn>1</mn></msub><mn>2</mn></msubsup></mtd></mtr><mtr><mtd><msubsup><mi>v</mi><msub><mi>x</mi><mn>2</mn></msub><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>v</mi><msub><mi>y</mi><mn>2</mn></msub><mn>2</mn></msubsup></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><mo>&CenterDot;</mo></mtd></mtr><mtr><mtd><msubsup><mi>v</mi><msub><mi>x</mi><mi>N</mi></msub><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>v</mi><msub><mi>y</mi><mi>N</mi></msub><mn>2</mn></msubsup></mtd></mtr></mtable></mfenced></mrow></math>]]></maths>第五步,混合背景分布更新,在MOF基本矩阵估计的同时,也得到了一系列的混合背景分布,对混合背景分布利用MOF无视差矩阵合并,降低背景虚警率,获得最终混合背景分布BG={BG<sub>1</sub>,BG<sub>2</sub>,…,BG<sub>i</sub>,…},其中,BG<sub>i(i=0,1,2,...)</sub>符合MOF无视差矩阵分布;第六步,目标MOF残差图计算,当获得混合背景的MOF基本矩阵,依据下式计算候选目标点ISO、IMO相对各个背景BG<sub>i</sub>的残差,定义候选点x<sub>j</sub>对于背景BG<sub>i</sub>的隶属度函数<img file="FDA00003014186100034.GIF" wi="195" he="67" />简记为μ<sub>i,j</sub>:<maths num="0009"><![CDATA[<math><mrow><msub><mi>&mu;</mi><mrow><mi>i</mi><mo>,</mo><mi>j</mi></mrow></msub><mo>=</mo><msub><mi>&mu;</mi><msub><mi>BG</mi><mi>i</mi></msub></msub><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mo>=</mo><mi>abs</mi><mrow><mo>(</mo><msup><mfenced open='[' close=']'><mtable><mtr><mtd><msubsup><mi>x</mi><mi>j</mi><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>y</mi><mi>j</mi><mn>2</mn></msubsup></mtd></mtr><mtr><mtd><mn>1</mn></mtd></mtr><mtr><mtd><msub><mi>x</mi><mi>j</mi></msub></mtd></mtr><mtr><mtd><msub><mi>y</mi><mi>j</mi></msub></mtd></mtr><mtr><mtd><msub><mi>x</mi><mi>j</mi></msub><msub><mi>v</mi><msub><mi>x</mi><mi>j</mi></msub></msub><mo>+</mo><msub><mi>y</mi><mi>j</mi></msub><msub><mi>v</mi><msub><mi>y</mi><mi>j</mi></msub></msub></mtd></mtr><mtr><mtd><msub><mi>v</mi><msub><mi>x</mi><mi>j</mi></msub></msub></mtd></mtr><mtr><mtd><msub><mi>v</mi><msub><mi>y</mi><mi>j</mi></msub></msub></mtd></mtr></mtable></mfenced><mi>T</mi></msup><msub><mi>MOF</mi><msub><mi>BG</mi><mi>i</mi></msub></msub><mo>-</mo><mo>[</mo><msubsup><mi>v</mi><msub><mi>x</mi><mi>j</mi></msub><mn>2</mn></msubsup><mo>+</mo><msubsup><mi>v</mi><msub><mi>y</mi><mi>j</mi></msub><mn>2</mn></msubsup><mo>]</mo><mo>)</mo></mrow></mrow></math>]]></maths>对于待评定候选兴趣点x<sub>j</sub>,定义x<sub>j</sub>符合混合背景分布BG={BG<sub>1</sub>,BG<sub>2</sub>,…,BG<sub>i</sub>,…}的隶属度函数μ<sub>j</sub>:<img file="FDA00003014186100033.GIF" wi="556" he="191" />这样,对于每个候选兴趣点x<sub>j</sub>,依据下式根据其对混合背景的隶属度将其划分为IMO或ISO:<maths num="0010"><![CDATA[<math><mrow><msub><mi>x</mi><mi>j</mi></msub><mo>&Element;</mo><mfenced open='{' close=''><mtable><mtr><mtd><mi>ISO</mi><msub><mi>&mu;</mi><mi>j</mi></msub><mo>&lt;</mo><msub><mi>&mu;</mi><mi>T</mi></msub></mtd></mtr><mtr><mtd><mi>IMO</mi><msub><mi>&mu;</mi><mi>j</mi></msub><mo>&GreaterEqual;</mo><msub><mi>&mu;</mi><mi>T</mi></msub></mtd></mtr></mtable></mfenced></mrow></math>]]></maths>第七步,目标MOF分割,对上述求得的运动目标IMO进行bwlabel连通,利用MOF视差无关矩阵将IMO划分为一个个子目标,IMO={IMO<sub>1</sub>,IMO<sub>2</sub>,…};将IMO点扩散为稠密IMO残差,以一波门为W×W的窗口,步进长度为Step,对整幅图像进行遍历,每个遍历窗口内的像素点累加该窗口内所有IMO的混合背景隶属度的均值,最终获得稠密角点的隶属度,这样根据检测出的IMO进行区域生长与合并,便能得到最终分割。
地址 210094 江苏省南京市孝陵卫200号