发明名称 面向智能视频监控的实时部分遮挡车辆分割及阴影消除方法
摘要 本发明提出一种面向应用的实时部分遮挡车辆分割及阴影消除方法RVSSE(Real-time Vehicles Segmentation and Shadow Elimination),针对不同车辆阴影类型获取反映车辆阴影几何形态特征且仅包含稀少像素的阴影线,利用阴影线稀少像素的梯度信息实现阴影消除;通过视频信息统计,针对绝大多数情况采用几何形态特征分割部分遮挡车辆,针对稀少的特殊情况采用预测跟踪与模版匹配相结合的方法实现部分遮挡车辆分割。理论分析和实验结果证明,RVSSE不仅具有较高准确性,而且能在现有硬件条件下满足实时性。
申请公布号 CN102117479B 申请公布日期 2013.09.25
申请号 CN200910226765.6 申请日期 2009.12.30
申请人 中国人民解放军国防科学技术大学 发明人 李国辉;焦波;涂丹;张军;徐伟
分类号 G06T5/00(2006.01)I;H04N7/18(2006.01)N 主分类号 G06T5/00(2006.01)I
代理机构 长沙正奇专利事务所有限责任公司 43113 代理人 卢宏
主权项 1.面向智能视频监控的实时部分遮挡车辆分割及阴影消除方法,其特征是,包括如下步骤:1)获取前景连通域FS几何形态特征,包括前景连通域FS中的等势线与局部极小点:将采用减背景和形态学闭算子获得的填充空洞后的前景区域中的每个连通域称为一个前景连通域,用FS表示;将视频图像中除前景连通域以外的区域称为背景区域,用BS表示;用N<sub>8</sub>(x)表述与像素x相邻的八个像素;前景连通域的几何形态特征通过初始化为0的图像标记Label获取:步骤1)令像素集HASet:=Φ;扫描图像一次,设一条竖向灰色扫描线L,若像素x∈L∩BS则令Label(x)=XA+1,其中设XA=w+h,w为视频图像长,h为视频图像宽;若相邻两像素x<sub>1</sub>∈L∩BS,x<sub>2</sub>∈L∩FS则令像素集TSet:={x|x∈N<sub>8</sub>(x<sub>1</sub>)∩FS,Label(x)=0},令HASet:=HASet+TSet,并对<img file="FDA000028156172000123.GIF" wi="206" he="49" />令Label(x)=XA;扫描图像一次,对每条横向扫描线的处理与竖向扫描线L相同;令像素集LMSet:=Φ,转步骤2;步骤2)若HASet≠Φ,设HASet中像素的Label值为LA,则令<maths num="0001"><![CDATA[<math><mrow><mi>LMSet</mi><mo>:</mo><mo>=</mo><mi>LMSet</mi><mo>+</mo><mo>{</mo><mi>x</mi><mo>|</mo><mi>x</mi><mo>&Element;</mo></mrow></math>]]></maths><maths num="0002"><![CDATA[<math><mrow><mi>HASet</mi><mo>,</mo><mo>&ForAll;</mo><mi>y</mi><mo>&Element;</mo><msub><mi>N</mi><mn>8</mn></msub><mrow><mo>(</mo><mi>x</mi><mo>)</mo></mrow><mo>&CenterDot;</mo><mi>Label</mi><mrow><mo>(</mo><mi>x</mi><mo>)</mo></mrow><mo>&NotEqual;</mo><mn>0</mn><mo>}</mo><mo>,</mo></mrow></math>]]></maths>令像素集<maths num="0003"><![CDATA[<math><mrow><mi>LASet</mi><mo>:</mo><mo>=</mo><mo>{</mo><mi>x</mi><mo>|</mo><mo>&Exists;</mo><mi>y</mi><mo>&Element;</mo><mi>HASet</mi><mo>&CenterDot;</mo><mi>x</mi><mo>&Element;</mo><msub><mi>N</mi><mn>8</mn></msub><mrow><mo>(</mo><mi>y</mi><mo>)</mo></mrow><mo>,</mo><mi>Label</mi><mrow><mo>(</mo><mi>x</mi><mo>)</mo></mrow><mo>=</mo><mn>0</mn><mo>}</mo><mo>,</mo></mrow></math>]]></maths>对<img file="FDA000028156172000114.GIF" wi="93" he="51" /><img file="FDA000028156172000115.GIF" wi="127" he="46" />令Label(y)=LA﹣1,然后令HASet:=LASet,重复步骤2;若HASet=Φ,则运行终止;上述步骤1获得前景连通域FS边缘的像素集HASet;步骤2以前景连通域FS边缘像素集为起点,反复迭代,获得前景连通域FS中的逐层等势线和局部极小点集LMSet;等势线是指前景连通域FS中具有相同Label值的,连通的线状的像素集;如果像素x∈FS且满足<img file="FDA000028156172000116.GIF" wi="91" he="51" /><img file="FDA000028156172000117.GIF" wi="545" he="54" />则称像素x为局部极小点;若前景连通域FS包含像素个数小于阈值T<sub>n</sub>,则将前景连通域FS视为噪声去除,阈值T<sub>n</sub>取值为视频图像包含像素总数的1/200;2)如果为长方向线的车辆阴影,对短截线车辆阴影进行消除:为了从局部极小点集LMSet中分离出分布在短截线车辆阴影区域中心的局部极小点,获取像素集<maths num="0004"><![CDATA[<math><mrow><mi>EMSet</mi><mo>=</mo><msub><mo>&cup;</mo><mi>y</mi></msub><msub><mo>&Element;</mo><mi>LMSet</mi></msub><mo>{</mo><mi>x</mi><mo>|</mo><mi>x</mi><mo>&Element;</mo><msub><mi>N</mi><mn>8</mn></msub><mrow><mo>(</mo><mi>y</mi><mo>)</mo></mrow><mo>,</mo><mi>x</mi><mo>&NotElement;</mo><mi>LMSet</mi><mo>,</mo><mi>Label</mi><mrow><mo>(</mo><mi>x</mi><mo>)</mo></mrow><mo>=</mo><mi>Label</mi><mrow><mo>(</mo><mi>y</mi><mo>)</mo></mrow><mo>}</mo><mo>,</mo></mrow></math>]]></maths>筛选出LMSet∪EMSet中像素个数大于阈值T<sub>s</sub>的连通域C<sub>1</sub>,C<sub>2</sub>,…,C<sub>k</sub>,设前景连通域FS中最小的Label值为NA,则阈值T<sub>s</sub>取值1.5(XA﹣NA);<img file="FDA000028156172000119.GIF" wi="195" he="46" />筛选出C<sub>i</sub>∩LMSet中Label值最大的像素集为正向端点XS<sub>i</sub>和Label值最小的像素集为反向端点NS<sub>i</sub>,以反向端点NS<sub>i</sub>为起点正向端点XS<sub>i</sub>为终点的方向为C<sub>i</sub>的方向d<sub>i</sub>,筛选出C<sub>i</sub>的方向d<sub>i</sub>与已知的车辆阴影方向d<sub>sh</sub>夹角小于阈值T<sub>d</sub>,阈值T<sub>d</sub>取值弧度π/12;且正向端点XS<sub>i</sub>中像素Label值大于阈值T<sub>a</sub>的C<sub>i</sub>,阈值T<sub>a</sub>取值XA﹣0.25(XA﹣NA),将筛选出的C<sub>i</sub>称为阴影线,阴影线包含了局部极小点集LMSet中分布在短截线车辆阴影区域中心的局部极小点;再通过所述阴影线的梯度信息消除短截线车辆阴影,其中车辆运动方向d<sub>m</sub>通过背景标记获取;设阴影线像素集为SLSet,为了获取阴影线像素集SLSet中处于车辆边缘的像素,对<img file="FDA000028156172000120.GIF" wi="74" he="41" /><img file="FDA000028156172000121.GIF" wi="162" he="48" />采用3×3结构元素中插值的方法计算x在车辆运动方向d<sub>m</sub>和与车辆运动方向垂直的方向d<sub>v</sub>两个方向上的梯度;对<img file="FDA000028156172000122.GIF" wi="249" he="52" />令x的梯度为其在车辆运行方向d<sub>m</sub>和与车辆运动方向垂直的方向d<sub>v</sub>两个方向上梯度的最大值,即Grad(x)=max(Grad<sub>dm</sub>(x),Grad<sub>dv</sub>(x)),将阴影线SLSet中像素按其方向排序,其中第i个像素用SLSet[i]表示,若i&lt;j,则SLSet[i]比SLSet[j]更接近于阴影线正向端点;计算阴影线像素SLSet[i]分别在背景图像的梯度Grad<sup>B</sup>(i)和前景图像的梯度Grad<sup>F</sup>(i),然后计算梯度比率Grad<sup>F</sup>(i)/Grad<sup>B</sup>(i),其中Grad<sup>B</sup>(i)=0时,令Grad<sup>B</sup>(i)=1;为了区分阴影线SLSet中处于车辆边缘的像素,对梯度比率自适应阈值T分割,将梯度比率值大于梯度比率自适应阈值T的像素的集合用VBSet表示,像素集VBSet将短截线阴影线SLSet分割成若干线状连通域<img file="FDA000028156172000210.GIF" wi="667" he="54" />在像素个数大于阈值T<sub>c</sub>的CL<sub>i</sub>中筛选出离阴影线正向端点最近的线状连通域CL<sub>s</sub>,其中1≤i≤kl,以线状连通域CL<sub>s</sub>的两端点为分割点沿与已知的车辆阴影方向垂直的方向分割,即消除了短截线车辆阴影;其中阈值T<sub>c</sub>取值0.5(XA﹣NA),将被消除的短截线车辆阴影区域像素的Label值改赋为XA+1;3)采用邻近涨潮分割车辆:设短截线车辆阴影消除后剩余的局部极小点集为RMSet;如果像素集Set中像素处于同一等势线,则设Set所在等势线为EAL(Set);步骤1设剩余局部极小点集RMSet包含的连通域个数为kr,获取连通域<img file="FDA000028156172000211.GIF" wi="340" he="50" /><img file="FDA000028156172000212.GIF" wi="189" he="49" />和集合LRS={CR<sub>s</sub>|1≤s≤kr,EAL(CR<sub>s</sub>)/CR<sub>s</sub>=Φ};设LRS包含元素个数为RC,并设LRS[i]为LRS的第i个元素;令i:=1,转步骤2;步骤2若i≤RC,则令像素集VS<sub>i</sub>:=Φ,转步骤3,否则终止;步骤3设LRS[i]包含像素的Label值为LI,获取像素集<maths num="0005"><![CDATA[<math><mrow><mi>LASet</mi><mo>:</mo><mo>=</mo><mo>{</mo><mi>z</mi><mo>|</mo><mo>&Exists;</mo><mi>y</mi><mo>&Element;</mo><mi>LRS</mi><mo>[</mo><mi>i</mi><mo>]</mo><mo>&CenterDot;</mo><mi>z</mi><mo>&Element;</mo><msub><mi>N</mi><mn>8</mn></msub><mrow><mo>(</mo><mi>y</mi><mo>)</mo></mrow><mo>,</mo></mrow></math>]]></maths><maths num="0006"><![CDATA[<math><mrow><mi>Label</mi><mrow><mo>(</mo><mi>z</mi><mo>)</mo></mrow><mo>=</mo><mi>LI</mi><mo>+</mo><mn>1</mn><mo>}</mo><mo>;</mo></mrow></math>]]></maths>令VS<sub>i</sub>:=VS<sub>i</sub>+LRS[i];令像素集RS<sub>i</sub>:=Φ,转步骤4;步骤4设LASet包含像素的Label值为LA,若LA&lt;XA+1,则转步骤5,否则令VS<sub>i</sub>:=VS<sub>i</sub>+RS<sub>i</sub>,令i:=i+1,转步骤2;步骤5设EAL(LASet)/LASet包含的连通域个数为ke,获取连通域<maths num="0007"><![CDATA[<math><mrow><msub><mi>CE</mi><mn>1</mn></msub><mo>,</mo><msub><mi>CE</mi><mn>2</mn></msub><mo>,</mo><mo>&CenterDot;</mo><mo>&CenterDot;</mo><mo>&CenterDot;</mo><mo>,</mo><msub><mi>CE</mi><mi>ke</mi></msub><mo>&SubsetEqual;</mo></mrow></math>]]></maths><maths num="0008"><![CDATA[<math><mrow><mi>EAL</mi><mrow><mo>(</mo><mi>LASet</mi><mo>)</mo></mrow><mo>/</mo><mi>LASet</mi><mo>;</mo></mrow></math>]]></maths>设VS<sub>i</sub>所在车辆区域为VS,对<img file="FDA000028156172000217.GIF" wi="927" he="59" /><img file="FDA000028156172000218.GIF" wi="536" he="60" />因此,获取集合FES={s|1≤s≤ke,CE<sub>s</sub>包含像素个数小于阈值T<sub>e</sub>}和集合<img file="FDA000028156172000219.GIF" wi="602" he="57" />令LASet:=LASet+∑<sub>s</sub>∈<sub>FES</sub>CE<sub>s</sub>,令VS<sub>i</sub>:=VS<sub>i</sub>+LASet;对<img file="FDA000028156172000220.GIF" wi="69" he="41" /><img file="FDA000028156172000221.GIF" wi="145" he="47" />获取像素集DE<sub>s</sub>={y|y∈CE<sub>s</sub>,y到LASet距离不大于XA﹣LA},令RS<sub>i</sub>:=RS<sub>i</sub>+∑<sub>s</sub>∈<sub>MES</sub>DE<sub>s</sub>;获取像素集<maths num="0009"><![CDATA[<math><mrow><mi>HASet</mi><mo>:</mo><mo>=</mo><mo>{</mo><mi>z</mi><mo>|</mo><mo>&Exists;</mo><mi>y</mi><mo>&Element;</mo><mi>LASet</mi><mo>&CenterDot;</mo><mi>z</mi><mo>&Element;</mo><msub><mi>N</mi><mn>8</mn></msub><mrow><mo>(</mo><mi>y</mi><mo>)</mo></mrow><mo>,</mo><mi>Label</mi><mrow><mo>(</mo><mi>z</mi><mo>)</mo></mrow><mo>=</mo><mi>LA</mi><mo>+</mo><mn>1</mn><mo>}</mo><mo>,</mo></mrow></math>]]></maths>令LASet:=HASet,转步骤4;其中车辆阴影方向与车辆运动方向一致时,阈值T<sub>e</sub>取值3.5(XA﹣NA),车辆阴影方向与车辆运动方向不一致时,阈值T<sub>e</sub>取值1.5(XA﹣NA);4)如果为长方向线的车辆阴影,且无短截线阴影,则利用长截线阴影类型阴影线LLSet像素的梯度信息消除长截线车辆阴影:将前景连通域FS分割成车辆区域VS<sub>i</sub>(i=1,2,…);车辆区域VS<sub>i</sub>中心被邻近涨潮方法步骤1的集合LRS记录,沿车辆阴影方向d<sub>sh</sub>设有一条经过车辆区域VS<sub>i</sub>中心的直线L<sub>i</sub>,设前景连通域FS中不同车辆区域的交集为INS,若L<sub>i</sub>∩INS=Φ,则将L<sub>i</sub>∩VS<sub>i</sub>称为长截线阴影类型的阴影线LLSet,否则,设与L<sub>i</sub>平行且最近的直线为LL<sub>i</sub>,使得LL<sub>i</sub>∩INS=Φ,将LL<sub>i</sub>∩VS<sub>i</sub>称为长截线阴影类型的阴影线LLSet;其中车辆运动方向d<sub>m</sub>通过背景标记获取,方向d<sub>v</sub>与车辆运动方向d<sub>m</sub>垂直;阴影线像素集为LLSet,对<img file="FDA000028156172000223.GIF" wi="235" he="48" />采用3×3结构元素中插值的方法计算x在与车辆运动方向垂直的方向d<sub>v</sub>上的梯度,即Grad(x)=Grad<sub>dv</sub>(x);再对梯度比率自适应阈值T分割,以线状连通域CL<sub>s</sub>的两端点为分割点沿与已知的车辆运动方向d<sub>m</sub>分割,即消除了长截线车辆阴影,完成部分遮挡车辆分割及阴影消除。
地址 410073 湖南省长沙市国防科技大学信息系统与管理学院系统工程系