发明名称 动态遮挡图像的实时补偿和增强方法
摘要 本发明提供一种动态遮挡图像的实时补偿和增强方法,解决动态遮挡图像的实时补偿和增强问题,改善动态遮挡图像的质量。技术方案是基于摄像机输出的视频图像,首先采用稳健的方法估计出相邻两帧图像之间的运动矢量,然后将运动补偿与象素灰度值的时域Kalman滤波技术结合起来,对所有像素进行时域滤波处理以补偿动态遮挡区域的图像信息,最后对补偿图像进行自适应灰度展宽和边缘增强处理。
申请公布号 CN101551901B 申请公布日期 2010.12.29
申请号 CN200910043506.X 申请日期 2009.05.25
申请人 中国人民解放军国防科学技术大学 发明人 张志龙;王鲁平;纪明;韩梅;王生让;杨光;张焱;李吉成
分类号 G06T5/00(2006.01)I;G06T5/10(2006.01)I;G06T7/20(2006.01)I 主分类号 G06T5/00(2006.01)I
代理机构 国防科技大学专利服务中心 43202 代理人 王文惠
主权项 1.动态遮挡图像的实时补偿和增强方法,包括下述步骤:设含有动态遮挡的图像序列记为f<sup>k</sup>(i,j),k=1,2,...,K,并当k≥2帧开始采用下述步骤进行实时补偿和增强:第一步,运动矢量的估计;将连续两帧数字图像记为f<sup>k-1</sup>(i,j)和f<sup>k</sup>(i,j);第①步,计算连续两帧图像的梯度幅度,计算得到f<sup>k</sup>(i,j)和f<sup>k-1</sup>(i,j)的梯度幅度图像,分别记为g<sup>k</sup>(i,j)和g<sup>k-1</sup>(i,j);第②步,计算梯度幅度图像的投影直方图,设g<sup>k</sup>(i,j)的行、列投影直方图分别为h<sup>k</sup>(i)、w<sup>k</sup>(j),g<sup>k-1</sup>(i,j)的行、列投影直方图分别为h<sup>k-1</sup>(i)、w<sup>k-1</sup>(j),其中i=0,1,...,I-1,j=0,1,...,J-1,I和J分别为图像的高度和宽度;第③步,计算行、列投影直方图的相关系数,设行投影直方图h<sup>k</sup>(i)和h<sup>k-1</sup>(i)的相关系数为<img file="FSB00000289585100011.GIF" wi="148" he="67" />,则:<maths num="0001"><![CDATA[<math><mrow><msubsup><mi>R</mi><mi>y</mi><mi>k</mi></msubsup><mrow><mo>(</mo><mi>&Delta;y</mi><mo>)</mo></mrow><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>0</mn></mrow><mrow><mi>I</mi><mo>-</mo><mn>1</mn></mrow></munderover><mo>|</mo><msup><mi>h</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>)</mo></mrow><mo>-</mo><msup><mi>h</mi><mrow><mi>k</mi><mo>-</mo><mn>1</mn></mrow></msup><mrow><mo>(</mo><mi>i</mi><mo>-</mo><mi>&Delta;y</mi><mo>)</mo></mrow><mo>|</mo><mo>,</mo></mrow></math>]]></maths>Δy∈[-M,M]并且Δy∈Z      (公式一)设列投影直方图w<sup>k</sup>(j)和w<sup>k-1</sup>(j)的相关系数为<img file="FSB00000289585100013.GIF" wi="148" he="61" />,则:<maths num="0002"><![CDATA[<math><mrow><msubsup><mi>R</mi><mi>x</mi><mi>k</mi></msubsup><mrow><mo>(</mo><mi>&Delta;x</mi><mo>)</mo></mrow><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>0</mn></mrow><mrow><mi>J</mi><mo>-</mo><mn>1</mn></mrow></munderover><mo>|</mo><msup><mi>w</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>j</mi><mo>)</mo></mrow><mo>-</mo><msup><mi>w</mi><mrow><mi>k</mi><mo>-</mo><mn>1</mn></mrow></msup><mrow><mo>(</mo><mi>j</mi><mo>-</mo><mi>&Delta;x</mi><mo>)</mo></mrow><mo>|</mo><mo>,</mo></mrow></math>]]></maths>Δx∈[-M,M]并且Δx∈Z      (公式二)其中的M为相邻图像帧间的最大平移量,根据摄像机的运动情况设定,Z表示所有整数组成的集合;第④步,计算运动矢量,根据相关系数<img file="FSB00000289585100015.GIF" wi="147" he="63" />和<img file="FSB00000289585100016.GIF" wi="147" he="68" />得到图像f<sup>k</sup>(i,j)和f<sup>k-1</sup>(i,j)之间的运动矢量(ΔX<sup>k</sup>,ΔY<sup>k</sup>),采用下面的公式:<maths num="0003"><![CDATA[<math><mfenced open='{' close=''><mtable><mtr><mtd><msup><mi>&Delta;X</mi><mi>k</mi></msup><mo>=</mo><mi>arg</mi><munder><mi>min</mi><mi>&Delta;x</mi></munder><mo>[</mo><msubsup><mi>R</mi><mi>x</mi><mi>k</mi></msubsup><mrow><mo>(</mo><mi>&Delta;x</mi><mo>)</mo></mrow><mo>]</mo></mtd></mtr><mtr><mtd><msup><mi>&Delta;Y</mi><mi>k</mi></msup><mo>=</mo><mi>arg</mi><munder><mi>min</mi><mi>&Delta;y</mi></munder><mo>[</mo><msubsup><mi>R</mi><mi>y</mi><mi>k</mi></msubsup><mrow><mo>(</mo><mi>&Delta;y</mi><mo>)</mo></mrow><mo>]</mo></mtd></mtr></mtable></mfenced></math>]]></maths>       (公式三)第二步,动态遮挡图像的补偿;第1步,补偿算法初始化,如果k=2,就对补偿算法进行初始化,具体方法是:假设系统噪声w(k)和测量噪声v(k)都是零均值的高斯白噪声,噪声方差分别为<img file="FSB00000289585100021.GIF" wi="54" he="82" />和<img file="FSB00000289585100022.GIF" wi="52" he="56" />;令<img file="FSB00000289585100023.GIF" wi="712" he="75" />并根据光学系统特性和问题的具体情况设置滤波协方差系数p(k-1|k-1)的初值;如果k>2,则不做任何处理,直接进入第2步;第2步,对图像f<sup>k</sup>(i,j)的所有象素(i,j),0≤i<I,0≤j<J,进行Kalman滤波,具体包括以下步骤:第1)步,根据象素(i,j)第k-1帧的滤波值<img file="FSB00000289585100024.GIF" wi="181" he="66" />计算其第k帧的预测值<img file="FSB00000289585100025.GIF" wi="170" he="64" />采用下面的公式:<maths num="0004"><![CDATA[<math><mrow><msup><mover><mi>f</mi><mo>^</mo></mover><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>=</mo><msup><mover><mi>f</mi><mo>~</mo></mover><mrow><mi>k</mi><mo>-</mo><mn>1</mn></mrow></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow></mrow></math>]]></maths>(公式六)第2)步,计算预测协方差系数p(k|k-1):<maths num="0005"><![CDATA[<math><mrow><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow><mo>=</mo><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow><mo>+</mo><msubsup><mi>&sigma;</mi><mi>w</mi><mn>2</mn></msubsup></mrow></math>]]></maths>(公式七)第3)步,计算Kalman滤波增益:<maths num="0006"><![CDATA[<math><mrow><mi>K</mi><mrow><mo>(</mo><mi>k</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mrow><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow></mrow><mrow><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow><mo>+</mo><msubsup><mi>&sigma;</mi><mi>v</mi><mn>2</mn></msubsup></mrow></mfrac></mrow></math>]]></maths>(公式八)第4)步,计算象素(i,j)在第k帧的滤波值<img file="FSB00000289585100029.GIF" wi="177" he="65" /><maths num="0007"><![CDATA[<math><mrow><msup><mover><mi>f</mi><mo>~</mo></mover><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>=</mo><msup><mover><mi>f</mi><mo>^</mo></mover><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>+</mo><mi>K</mi><mrow><mo>(</mo><mi>k</mi><mo>)</mo></mrow><mo>[</mo><msup><mi>f</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>-</mo><msup><mover><mi>f</mi><mo>^</mo></mover><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>]</mo></mrow></math>]]></maths>(公式九)第5)步,计算滤波协方差系数p(k|k):<maths num="0008"><![CDATA[<math><mrow><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>)</mo></mrow><mo>=</mo><mfrac><msubsup><mi>&sigma;</mi><mi>v</mi><mn>2</mn></msubsup><mrow><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow><mo>+</mo><msubsup><mi>&sigma;</mi><mi>v</mi><mn>2</mn></msubsup></mrow></mfrac><mo>&CenterDot;</mo><mi>p</mi><mrow><mo>(</mo><mi>k</mi><mo>|</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow></mrow></math>]]></maths>(公式十)第6)步,令k=k+1,返回第1)步,直到k=K时结束;第三步,图像的自适应灰度展宽和边缘增强;第①步,图像的自适应灰度展宽,首先求补偿图像<img file="FSB000002895851000212.GIF" wi="154" he="63" />的归一化直方图,记为h(l),l=0,1,...,255,并设定较小的比例因子α=0.05;然后根据α和直方图h(l)确定灰阶L和H,采用下列公式:<maths num="0009"><![CDATA[<math><mrow><munderover><mi>&Sigma;</mi><mrow><mi>l</mi><mo>=</mo><mn>0</mn></mrow><mi>L</mi></munderover><mi>h</mi><mrow><mo>(</mo><mi>l</mi><mo>)</mo></mrow><mo>=</mo><mi>&alpha;</mi><mo>;</mo><munderover><mi>&Sigma;</mi><mrow><mi>l</mi><mo>=</mo><mi>H</mi></mrow><mn>255</mn></munderover><mi>h</mi><mrow><mo>(</mo><mi>l</mi><mo>)</mo></mrow><mo>=</mo><mi>&alpha;</mi></mrow></math>]]></maths>(公式十一)最后根据灰阶L和H对图像<img file="FSB00000289585100032.GIF" wi="151" he="65" />进行灰度展宽,展宽之后的图像记为b<sup>k</sup>(i,j),采用下式计算:<maths num="0010"><![CDATA[<math><mrow><msup><mi>b</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>=</mo><mn>255</mn><mo>&times;</mo><mfrac><mrow><msup><mover><mi>f</mi><mo>~</mo></mover><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>-</mo><mi>L</mi></mrow><mrow><mi>H</mi><mo>-</mo><mi>L</mi></mrow></mfrac></mrow></math>]]></maths>(公式十二)第②步,图像的边缘增强,采用下面的5×5卷积模板t(i,j),i=-2,-1,0,1,2,j=-2,-1,0,1,2,卷积模板的取值为:,t(-2,-2)=-1,t(-2,-1)=-2,t(-2,0)=-3,t(-2,1)=-2,t(-2,2)=-1,t(-1,-2)=-2,t(-1,-1)=6,t(-1,0)=4,t(-1,1)=6,t(-1,2)=-2,t(0,-2)=-3,t(0,-1)=4,t(0,0)=1,t(0,1)=4,t(0,2)=-3,t(1,-2)=-2,t(1,-1)=6,t(1,0)=4,t(1,1)=6,t(1,2)=-2,t(2,-2)=-1,t(2,-1)=-2,t(2,0)=-3,t(2,1)=-2,t(2,2)=-1,计算边缘增强后的图像p<sup>k</sup>(i,j):<maths num="0011"><![CDATA[<math><mrow><msup><mi>p</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>=</mo><msup><mi>b</mi><mi>k</mi></msup><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>&CircleTimes;</mo><mi>t</mi><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow></mrow></math>]]></maths>       (公式十三)其中“<img file="FSB00000289585100035.GIF" wi="37" he="37" />”表示图像与模板的二维卷积运算。
地址 410073 湖南省长沙市砚瓦池正街47号