发明名称 一种后视倒车辅助系统和形成后视障碍图像的方法
摘要 本发明公开了一种后视倒车辅助系统和形成后视障碍图像的方法,是一种在车辆后方两侧外表面固定且平行安装两个摄像头的基础上,对车辆倒车时后视场景中障碍物自动识别、测距,并最终融合显示的方法;该方法依次包括分割、测距以及融合三大部分;所述分割部分包括预处理、自适应FCM分割以及分割后处理;测距部分包括SIFT特征匹配、摄像头标定以及距离测量;融合部分主要是根据已经测得的距离信息,结合实际交通场景情况,建立相关规则并融合显示。本发明方法消除了车后的视觉盲区,将后视图像中障碍物自动分割出来并获得该障碍到本车的距离,融合显示倒车时最急需关注的距离很近的障碍物,消除了其他距离较远的事物的干扰,使得倒车更加便捷。
申请公布号 CN102774325B 申请公布日期 2014.12.10
申请号 CN201210268938.2 申请日期 2012.07.31
申请人 西安交通大学 发明人 王拓;胥博;唐家兴;陈雅迪;华莉琴
分类号 B60R1/00(2006.01)I;G06K9/00(2006.01)I;G06K9/60(2006.01)I;G01C3/00(2006.01)I 主分类号 B60R1/00(2006.01)I
代理机构 西安通大专利代理有限责任公司 61200 代理人 田洲
主权项 一种形成后视障碍图像的方法,其特征在于,包括以下步骤:车后两侧外表面平行固定安装的两个针孔摄像头各采集到一帧图像,经过图像同步处理器同步后储存到内存中,DSP处理器对两个摄像头采集的两帧图像依次进行分割、测距和融合处理,将处理结果对应的像素点发送到输出帧缓存;逻辑控制器产生输出帧缓存的时序信号将输出缓存中所存储的内容传输到视频编码器中,转换成视频信号,由视频线传输到视频显示器显示出后视障碍物图像,与此同时,DSP处理器将获得的各个障碍目标的距离与系统设定的阈值T<sub>r</sub>对比,若小于该阈值,则逻辑控制器驱动音频报警器报警;DSP处理器对两个摄像头各采集的一帧图像分割的方法依次包括:预处理、自适应FCM分割和分割后处理;预处理包括背景建模和前景提取;背景建模时,首先进行模型的初始化,对每个像素点设置下列参数,聚类中心c,亮度畸变半径Δ<sub>I</sub>和颜色畸变半径Δ<sub>C</sub>,子类权重ω,最大子类数M;接下来,取视频图像序列第一帧作为初始背景模型,并将该帧中每个像素位置的颜色特征向量v作为其第一个聚类中心c<sub>1</sub>,同时设置该类的权重ω<sub>1</sub>=1;随后,对采集到的连续两帧图像f<sub>t</sub>,f<sub>t+1</sub>进行帧间差分,即:f<sub>t</sub>‑f<sub>t+1</sub>,得到其中的不变区域v<sub>t+1</sub>,也就是不包含运动目标的背景部分;对上述不变区域中的每个像素,计算当前像素特征向量和已存在聚类中心的畸变差异D,并选取其中的最小值D<sub>min</sub>以及所对应的子类编号K;如果D<sub>min</sub>满足(1)和(2)组成的聚类准则,brightness(I<sub>i</sub>,I<sub>k</sub>)=ΔI≤Δ<sub>I</sub>         (1)colordist(x<sub>i</sub>,c<sub>k</sub>)=ΔC≤Δ<sub>C</sub>          (2)表明当前像素属于子类k,那么按照下式对子类的参数进行更新:c<sub>k,t+1</sub>(x,y)=(1‑α<sub>1</sub>)c<sub>k,t</sub>(x,y)+α<sub>1</sub>v<sub>t+1</sub>(x,y)       (3)ω<sub>k,t+1</sub>=(1‑α<sub>1</sub>)ω<sub>k,t</sub>+α<sub>1</sub>                   (4)式中:c<sub>k,t+1</sub>(x,y)——像素(x,y)处第k个子类更新后的聚类中心;c<sub>k,t</sub>(x,y)——像素(x,y)处第k个子类更新前的聚类中心;α<sub>1</sub>——学习速率;ω<sub>k,t+1</sub>——第k个子类更新后的权重;ω<sub>k,t</sub>——第k个子类更新前的权重;如果D<sub>min</sub>不满足式(1)和(2)组成的聚类准则,表明当前像素不属于任何一个已存在的子类,则比较max(k)和M的大小,最后,对每个像素位置,根据权重ω对已存在的子类由大到小进行排序,并按照下式选择符合条件的前N个子类作为背景模型的合理描述:<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><mi>N</mi><mo>=</mo><mi>arg</mi><msub><mi>min</mi><mi>n</mi></msub><mrow><mo>(</mo><munderover><mi>&Sigma;</mi><mrow><mi>K</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></munderover><msub><mi>&omega;</mi><mi>k</mi></msub><mo>></mo><msub><mi>T</mi><mi>n</mi></msub><mo>)</mo></mrow><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>5</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000548810440000021.GIF" wi="1338" he="134" /></maths>此后,重复上述过程,对建立的背景模型进行不断更新,以提高模型的准确度,满足时刻变化的交通场景需求;经过以上建模更新得到了背景模型g(i,j),原始帧的灰度图像为f(i,j),背景差分即||f(i,j)‑g(i,j)||&gt;T时,认为当前图像中出现了部分与背景模型g(i,j)偏差较大的像素点,即表示前景;T为阈值,阈值T通过如下步骤确定:1)计算图像的直方图统计结果,得到灰度值为k的频率P<sub>HS</sub>(k)为<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><msub><mi>P</mi><mi>HS</mi></msub><mrow><mo>(</mo><mi>k</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mn>1</mn><mrow><mi>m</mi><mo>&times;</mo><mi>n</mi></mrow></mfrac><munder><mi>&Sigma;</mi><mrow><mi>f</mi><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow><mo>=</mo><mi>k</mi></mrow></munder><mn>1</mn><mo>;</mo></mrow>]]></math><img file="FDA0000548810440000031.GIF" wi="474" he="142" /></maths>2)计算图像的灰度均值μ<sub>T</sub>为<img file="FDA0000548810440000032.GIF" wi="405" he="141" />3)计算灰度类均值μ(s)和类直方图之和w(s)分别为<img file="FDA0000548810440000033.GIF" wi="452" he="134" /><maths num="0003" id="cmaths0003"><math><![CDATA[<mrow><mi>w</mi><mrow><mo>(</mo><mi>s</mi><mo>)</mo></mrow><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>0</mn></mrow><mi>s</mi></munderover><msub><mi>P</mi><mi>HS</mi></msub><mrow><mo>(</mo><mi>k</mi><mo>)</mo></mrow><mo>;</mo></mrow>]]></math><img file="FDA0000548810440000034.GIF" wi="373" he="134" /></maths>4)计算类分离指标σ<sub>B</sub>为<maths num="0004" id="cmaths0004"><math><![CDATA[<mrow><msub><mi>&sigma;</mi><mi>B</mi></msub><mo>=</mo><mfrac><msup><mrow><mo>[</mo><msub><mi>&mu;</mi><mi>T</mi></msub><mo>&times;</mo><mi>w</mi><mrow><mo>(</mo><mi>s</mi><mo>)</mo></mrow><mo>-</mo><mi>&mu;</mi><mrow><mo>(</mo><mi>s</mi><mo>)</mo></mrow><mo>]</mo></mrow><mn>2</mn></msup><mrow><mi>w</mi><mrow><mo>(</mo><mi>s</mi><mo>)</mo></mrow><mo>[</mo><mn>1</mn><mo>-</mo><mi>w</mi><mrow><mo>(</mo><mi>s</mi><mo>)</mo></mrow><mo>]</mo></mrow></mfrac></mrow>]]></math><img file="FDA0000548810440000035.GIF" wi="503" he="146" /></maths>最后求出使得σ<sub>B</sub>达到最大值的s,则阈值T=s;所述自适应FCM分割是对预处理后的图像,选取PBM‑index评价指数先验决定聚类数目,然后利用FCM算法进行分割;其中PBM‑index的定义如下:<maths num="0005" id="cmaths0005"><math><![CDATA[<mrow><mi>PBM</mi><mrow><mo>(</mo><mi>K</mi><mo>)</mo></mrow><mo>=</mo><msup><mrow><mo>(</mo><mfrac><mn>1</mn><mi>K</mi></mfrac><mo>&times;</mo><mfrac><msub><mi>E</mi><mn>1</mn></msub><msub><mi>E</mi><mi>K</mi></msub></mfrac><mo>&times;</mo><msub><mi>D</mi><mi>K</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>6</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000548810440000036.GIF" wi="1288" he="141" /></maths>其中K为当前估计的聚类数目,且有:<maths num="0006" id="cmaths0006"><math><![CDATA[<mrow><msub><mi>E</mi><mi>K</mi></msub><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>K</mi><mo>=</mo><mn>1</mn></mrow><mi>K</mi></munderover><msub><mi>E</mi><mi>k</mi></msub><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>7</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000548810440000037.GIF" wi="1066" he="140" /></maths><maths num="0007" id="cmaths0007"><math><![CDATA[<mrow><msub><mi>E</mi><mi>k</mi></msub><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></munderover><msub><mi>u</mi><mi>kj</mi></msub><mo>|</mo><mo>|</mo><msub><mi>x</mi><mi>j</mi></msub><mo>-</mo><msub><mi>z</mi><mi>k</mi></msub><mo>|</mo><mo>|</mo><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>8</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000548810440000038.GIF" wi="1147" he="140" /></maths><maths num="0008" id="cmaths0008"><math><![CDATA[<mrow><msub><mi>D</mi><mi>k</mi></msub><mo>=</mo><munderover><mi>max</mi><mrow><mi>i</mi><mo>,</mo><mi>j</mi><mo>=</mo><mn>1</mn></mrow><mi>k</mi></munderover><mo>|</mo><mo>|</mo><msub><mi>z</mi><mi>i</mi></msub><mo>-</mo><msub><mi>z</mi><mi>j</mi></msub><mo>|</mo><mo>|</mo><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>9</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000548810440000039.GIF" wi="1153" he="143" /></maths>X<sub>j</sub>为第j个数据元素,Z<sub>k</sub>为第k个数据中心的位置,D<sub>k</sub>表征各聚类中心间距离之和;按照k=2到k=T<sub>m</sub>迭代执行,记录使得PBM‑index最大的相应k值,即为估计得到的先验聚类数目;接下来执行FCM聚类算法,求出各个聚类的聚类中心与半径,并将半径内的数据元素即像素点全部置为聚类中心的灰度值;所述分割后处理,首先定义窗口<img file="FDA0000548810440000041.GIF" wi="62" he="70" />,在<img file="FDA0000548810440000042.GIF" wi="62" he="70" />窗口范围内进行区域融合,然后对其结果进行形态学上的闭运算处理;以下两种操作作为区域融合的关键性步骤:Operation1:初始区域确定;以像素点x<sub>ij</sub>为中心的<img file="FDA0000548810440000043.GIF" wi="62" he="75" />范围内,找出所有互不连通的前景类c<sub>1</sub>,...,c<sub>n</sub>,统计其像素数目l<sub>1</sub>,...,l<sub>n</sub>;Operation2:判断是否应当合并;对于两类c<sub>i</sub>与c<sub>j</sub>,判断是否满足<img file="FDA0000548810440000044.GIF" wi="324" he="155" />若满足,则将两类合并,将窗体中心相邻点的灰度值置为c<sub>i</sub>与c<sub>j</sub>的平均值;其中S<sub>i</sub>为当前所处理的前景类C<sub>i</sub>的边缘长度,min(l<sub>i</sub>,l<sub>j</sub>)为l<sub>i</sub>和l<sub>j</sub>的最小值,先验阈值T<sub>0</sub>取0.78;区域融合的形式化步骤为:STEP1:判断当前像素点是否为背景类,是转STEP2,否则转STEP4;STEP2:以当前像素点为中心执行Operation1运算;STEP3:对于<img file="FDA0000548810440000045.GIF" wi="62" he="70" />中的类两两执行Operation2运算,然后转STEP4;STEP4:取下一像素点,转STEP1继续执行。
地址 710049 陕西省西安市咸宁西路28号