发明名称 基于像素点光流的图像序列运动直线筛选跟踪方法
摘要 本发明公开了一种基于像素点光流的图像序列运动直线筛选跟踪方法,利用摄像机拍摄一组连续的图像序列;计算出两帧图像序列间的稠密光流场;根据图像直线的法线式表示方法,推导出直线上点光流与直线光流的对应关系式;基于像素点光流的运动直线筛选;基于预测机制的运动直线跟踪。本发明能够根据图像序列像素点光流筛选图像中感兴趣的运动直线,剔除图像中的背景直线;根据运动直线筛选结果对当前图像和下一帧图像中运动直线进行跟踪,具有较高的筛选跟踪精度与鲁棒性。
申请公布号 CN103996210A 申请公布日期 2014.08.20
申请号 CN201410249659.0 申请日期 2014.06.06
申请人 南昌航空大学 发明人 张聪炫;陈震;黎明
分类号 G06T7/20(2006.01)I 主分类号 G06T7/20(2006.01)I
代理机构 南昌市平凡知识产权代理事务所 36122 代理人 欧阳沁
主权项 基于像素点光流的图像序列运动直线筛选跟踪方法,其特征在于:1)利用摄像机拍摄一组连续的图像序列;2)计算出两帧图像序列间的稠密光流场;3)根据图像直线的法线式表示方法,推导出直线上点光流与直线光流的对应关系式:(ycosθ‑xsinθ)θ′‑ρ′+ucosθ+vsinθ=0      (1)式(1)中,(u,v)<sup>T</sup>是直线上点(x,y)<sup>T</sup>处的点光流矢量值。(ρ,θ)<sup>T</sup>和(ρ',θ')<sup>T</sup>是直线的坐标和直线光流,根据式(1),得出直线光流与直线上点光流的以下对应关系:A:当直线上各像素点的点光流矢量均为零时,直线光流为零;B:当直线上各像素点的点光流不为零时,直线光流不为零;C:当直线仅包含平移运动,且运动方向与直线方向相同时,直线上各点的点光流矢量不为零,但直线光流等于零;4)基于像素点光流的运动直线筛选;首先,根据点线光流对应关系构造一个二元方程组函数为:<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><msub><mi>f</mi><mrow><mi>i</mi><mo>,</mo><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mrow><mo>(</mo><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>,</mo><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>)</mo></mrow><mo>=</mo><mfenced open='{' close=''><mtable><mtr><mtd><mrow><mo>(</mo><msub><mi>y</mi><mi>i</mi></msub><mi>cos</mi><mi>&theta;</mi><mo>-</mo><msub><mi>x</mi><mi>i</mi></msub><mi>sin</mi><mi>&theta;</mi><mo>)</mo></mrow><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>-</mo><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>+</mo><msub><mi>u</mi><mi>i</mi></msub><mi>cos</mi><mi>&theta;</mi><mo>+</mo><msub><mi>v</mi><mi>i</mi></msub><mi>sin</mi><mi>&theta;</mi><mo>=</mo><mn>0</mn></mtd></mtr><mtr><mtd><mrow><mo>(</mo><msub><mi>y</mi><mrow><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mi>cos</mi><mi>&theta;</mi><mo>-</mo><msub><mi>x</mi><mrow><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mi>sin</mi><mi>&theta;</mi><mo>)</mo></mrow><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>-</mo><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>+</mo><msub><mi>u</mi><mrow><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mi>cos</mi><mi>&theta;</mi><mo>+</mo><msub><mi>v</mi><mrow><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mi>sin</mi><mi>&theta;</mi><mo>=</mo><mn>0</mn></mtd></mtr></mtable></mfenced><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>2</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000517076310000011.GIF" wi="1731" he="179" /></maths>式中,i表示直线上第i个像素点;根据式(2),由直线上相邻两点的点光流值可以计算出直线光流(ρ',θ')<sup>T</sup>;假设直线总共包含n个像素点,则直线光流估计方程为:<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><mrow><mo>(</mo><mover><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>&OverBar;</mo></mover><mo>,</mo><mover><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>&OverBar;</mo></mover><mo>)</mo></mrow><mo>=</mo><mfrac><mn>1</mn><mrow><mi>n</mi><mo>-</mo><mn>1</mn></mrow></mfrac><munderover><mi>&Sigma;</mi><mi>i</mi><mrow><mi>n</mi><mo>-</mo><mn>1</mn></mrow></munderover><msub><mi>f</mi><mrow><mi>i</mi><mo>,</mo><mi>i</mi><mo>+</mo><mn>1</mn></mrow></msub><mrow><mo>(</mo><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>,</mo><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>)</mo></mrow><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>3</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000517076310000012.GIF" wi="1276" he="156" /></maths>式(3)中,<img file="FDA0000517076310000013.GIF" wi="173" he="81" />是根据均值滤波方法计算得到的直线光流估计值;得到直线光流估计值后,引入直线光流阈值(ρ<sub>κ</sub>,θ<sub>κ</sub>)<sup>T</sup>,对直线光流估计值进行筛选,具体操作如下:<img file="FDA0000517076310000014.GIF" wi="1541" he="301" />式(4)中,直线光流阈值(ρ<sub>κ</sub>,θ<sub>κ</sub>)<sup>T</sup>根据图像中所有直线光流估计值的均值设定;5)基于预测机制的运动直线跟踪;筛选出两帧图像间直线光流不为零的直线后,由第一帧图像直线坐标(ρ<sub>t</sub>,θ<sub>t</sub>)<sup>T</sup>和直线光流估计值,计算出该直线在第二帧图像中的预测坐标<img file="FDA0000517076310000021.GIF" wi="294" he="79" /><maths num="0003" id="cmaths0003"><math><![CDATA[<mrow><msup><mrow><mo>(</mo><msubsup><mi>&rho;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow><mi>C</mi></msubsup><mo>,</mo><msubsup><mi>&theta;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow><mi>C</mi></msubsup><mo>)</mo></mrow><mi>T</mi></msup><mo>=</mo><msup><mrow><mo>(</mo><msub><mi>&rho;</mi><mi>t</mi></msub><mo>+</mo><msup><mi>&rho;</mi><mo>&prime;</mo></msup><mo>,</mo><msub><mi>&theta;</mi><mi>t</mi></msub><mo>+</mo><msup><mi>&theta;</mi><mo>&prime;</mo></msup><mo>)</mo></mrow><mi>T</mi></msup><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>5</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000517076310000022.GIF" wi="1301" he="94" /></maths>计算得到第一帧图像中所有运动直线在第二帧图像中的预测位置后,首先,采用Hough变换提取出第二帧图像中所有直线的真实位置坐标(ρ<sub>t+Δt</sub>,θ<sub>t+Δt</sub>)<sup>T</sup>,然后,利用第二帧图像直线预测位置坐标<img file="FDA0000517076310000023.GIF" wi="260" he="84" />和直线真实坐标(ρ<sub>t+Δt</sub>,θ<sub>t+Δt</sub>)<sup>T</sup>进行直线匹配;引入欧几里德距离(Euclidean distance),其描述n维空间的中两点的真实距离;将其引入到Hough域中表示为:<maths num="0004" id="cmaths0004"><math><![CDATA[<mrow><mi>d</mi><mo>=</mo><msqrt><msup><mrow><mo>(</mo><msubsup><mi>&rho;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow><mi>C</mi></msubsup><mo>-</mo><msub><mi>&rho;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><msubsup><mi>&theta;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow><mi>C</mi></msubsup><mo>-</mo><msub><mi>&theta;</mi><mrow><mi>t</mi><mo>+</mo><mi>&Delta;t</mi></mrow></msub><mo>)</mo></mrow><mn>2</mn></msup></msqrt><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>6</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000517076310000024.GIF" wi="1343" he="104" /></maths>基于预测机制的运动直线跟踪的具体操作流程如下:Step1.假设根据点光流得到的第二帧图像预测直线总条数为n,首先根据Hough空间量化间隔设定匹配窗口的大小为Δρ×Δθ,(Δρ,Δθ)分别表示窗口的长度和宽度;Step2.取第i条直线的预测坐标为匹配窗口的中心位置,对第二帧图像所有直线的真实坐标进行遍历,则匹配过程包含以下几种情况:a).当匹配窗口内不包含第二帧图像直线的真实坐标时,匹配不成功,删除第i条直线的预测坐标,转至Step3;b).当匹配窗口内只包含一条第二帧图像直线的真实坐标,匹配成功,转至Step3;c).当匹配窗口内包含多条第二帧图像直线的真实坐标,计算预测直线坐标与各真实直线坐标的欧氏距离d,取欧氏距离最小的真实直线坐标作为匹配直线,即<img file="FDA0000517076310000025.GIF" wi="719" he="86" />m表示匹配窗口内直线真实坐标的个数;匹配成功,转至Step3;Step3.if i<n,则i=i+1,转至Step2;Step4.结束。
地址 330063 江西省南昌市丰和南大道696号