发明名称 基于视觉注意的红外图像与可见光图像配准方法
摘要 基于视觉注意机制的红外图像与可见光图像配准方法,步骤如下:输入原始红外和可见光图像,通过视觉注意机制模型获取红外和可见光图像的视觉显著区域;通过Hu矩的不变矩计算,对红外和可见光图像的视觉显著区域进行粗匹配;在粗匹配的红外和可见光图像的视觉显著区域内搜寻质心,以质心作为视觉显著点,以视觉显著点代表视觉显著区域;基于去均值归一化互相关原理对视觉显著点进行细匹配;采用RANSAC算法对精确匹配的图像进行提纯,计算配准估计函数,通过配准估计函数进行图像变换,实现图像的配准、输出。本发明通过模拟人眼的视觉注意机制作为图像的特征检测方法提取稳定的特征,经过匹配后,精确实现红外图像与可见光图像的配准。
申请公布号 CN103714548B 申请公布日期 2017.01.11
申请号 CN201310743788.0 申请日期 2013.12.27
申请人 西安电子科技大学 发明人 王炳健;刘志庭;赖睿;易翔;于海涛;杨松启;秦翰林;周慧鑫
分类号 G06T7/00(2006.01)I 主分类号 G06T7/00(2006.01)I
代理机构 广东朗乾律师事务所 44291 代理人 杨焕军
主权项 基于视觉注意机制的红外图像与可见光图像配准方法,其特征在于,包括以下步骤:输入原始红外图像和原始可见光图像,步骤1、通过视觉注意机制模型获取红外图像和可见光图像的视觉显著区域:步骤1‑1、将原始红外图像和原始可见光图像分别进行灰度处理,得到红外灰度图和可见光灰度图,将红外灰度图作为单一尺度下的红外亮度图,将可见光灰度图作为单一尺度下的可见光亮度图;步骤1‑2、构造m个尺寸为n×n像素、方向为<img file="FDA0000984739630000011.GIF" wi="600" he="134" />的Gabor滤波器,分别对红外灰度图与可见光灰度图进行滤波,对应得到m幅单一尺度下的红外方向图和m幅单一尺度下的可见光方向图;步骤1‑3、建立图像的多尺度空间:对单一尺度的红外、可见光亮度图和单一尺度的红外、可见光方向图分别逐级进行隔行隔列的降采样和平滑处理,形成各图像的金字塔模型,得到多尺度的红外、可见光亮度图和多尺度的红外、可见光方向图;步骤1‑4、对多尺度的红外、可见光亮度图和多尺度的红外、可见光方向图进行中央周差操作,利用金字塔模型高层图像与低层图像进行减运算,对应得到红外、可见光亮度特征图和红外、可见光方向特征图;步骤1‑5、对红外、可见光亮度特征图和红外、可见光方向特征图分别归一化合并,对应得到红外、可见光亮度显著图和红外、可见光方向显著图;步骤1‑6、线性叠加获取总显著图,通过全局搜索确定视觉显著区域;将红外亮度显著图和红外方向显著图通过线性叠加得到红外总显著图,将可见光亮度显著图和可见光方向显著图通过线性叠加得到可见光总显著图,分别通过胜者全取策略全局搜索极大值,得到图像的视觉显著区域;步骤2:通过Hu矩的不变矩计算,对红外图像和可见光图像的视觉显著区域进行粗匹配:步骤2‑1、将原始红外图像和原始可见光图像分别转换为二值图像,通过链码获取前述图像的轮廓;步骤2‑2、将红外图像的视觉显著区域、可见光图像的视觉显著区域分别导入步骤2‑1得到的红外图像的轮廓和可见光图像的轮廓中,得到红外图像的视觉显著区域轮廓图和可见光图像的视觉显著区域轮廓图;步骤2‑3、对红外图像和可见光图像的视觉显著区域进行粗匹配,步骤如下:a.计算视觉显著区域的中心矩u<sub>pq</sub>:<maths num="0001"><math><![CDATA[<mrow><msub><mi>u</mi><mrow><mi>p</mi><mi>q</mi></mrow></msub><mo>=</mo><munderover><mo>&Sigma;</mo><mrow><mi>y</mi><mo>=</mo><mn>1</mn></mrow><mi>M</mi></munderover><munderover><mo>&Sigma;</mo><mrow><mi>x</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><msup><mrow><mo>(</mo><mi>x</mi><mo>-</mo><mover><mi>x</mi><mo>&OverBar;</mo></mover><mo>)</mo></mrow><mi>p</mi></msup><msup><mrow><mo>(</mo><mi>y</mi><mo>-</mo><mover><mi>y</mi><mo>&OverBar;</mo></mover><mo>)</mo></mrow><mi>q</mi></msup><mi>f</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>,</mo><mi>p</mi><mo>,</mo><mi>q</mi><mo>=</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>,</mo><mn>2</mn><mo>...</mo><mo>,</mo></mrow>]]></math><img file="FDA0000984739630000021.GIF" wi="1102" he="142" /></maths>其中,f(x,y)为视觉显著区域轮廓图中像素点的像素灰度值,<img file="FDA0000984739630000023.GIF" wi="139" he="53" />为视觉显著区域轮廓图的重心,N为视觉显著区域轮廓图的高度,M为视觉显著区域轮廓图的宽度;b.归一化中心矩计算式:η<sub>pq</sub>=u<sub>pq</sub>/(u<sub>00</sub><sup>ρ</sup>),其中ρ=(p+q)/2+1;c.构造Hu矩的不变矩:M1=η<sub>20</sub>+η<sub>02</sub>,M2=(η<sub>20</sub>‑η<sub>02</sub>)<sup>2</sup>+4η<sub>11</sub><sup>2</sup>,M3=(η<sub>30</sub>‑3η<sub>12</sub>)<sup>2</sup>+(3η<sub>21</sub>‑η<sub>03</sub>)<sup>2</sup>;d.计算红外图像与可见光图像的一阶矩比值:M1/M1',及二阶矩比值:M2/M2',M3/M3',若三组比值都在阈值范围内则视为匹配区域;步骤3、在粗匹配的红外图像和可见光图像的视觉显著区域内搜寻其质心,以质心作为视觉显著点,以视觉显著点代表视觉显著区域;计算红外、可见光视觉显著区域的质心,质心(x<sub>0</sub>,y<sub>0</sub>)通过下式计算:<maths num="0002"><math><![CDATA[<mrow><msub><mi>x</mi><mn>0</mn></msub><mo>=</mo><mfrac><mrow><munder><mo>&Sigma;</mo><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo><mo>&Element;</mo><mi>T</mi></mrow></munder><mi>x</mi><mi>I</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow></mrow><mrow><munder><mo>&Sigma;</mo><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo><mo>&Element;</mo><mi>T</mi></mrow></munder><mi>I</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow></mrow></mfrac><mo>,</mo><msub><mi>y</mi><mn>0</mn></msub><mo>=</mo><mfrac><mrow><munder><mo>&Sigma;</mo><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo><mo>&Element;</mo><mi>T</mi></mrow></munder><mi>y</mi><mi>I</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow></mrow><mrow><munder><mo>&Sigma;</mo><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo><mo>&Element;</mo><mi>T</mi></mrow></munder><mi>I</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow></mrow></mfrac><mo>;</mo></mrow>]]></math><img file="FDA0000984739630000022.GIF" wi="789" he="223" /></maths>其中,T为视觉显著区域,I(x,y)为视觉显著区域内像素点亮度值;步骤4、基于去均值归一化互相关原理对视觉显著点进行细匹配;选取红外图像的视觉显著点周围l×l区域为模板,将可见光图像的视觉显著点周围l×l区域为待匹配图像,计算模板和待匹配图像的相关系数R(u,v),对红外图像和可见光图像的视觉显著区域进行精确匹配,当相关系数R(u,v)在0.6以上则视为匹配;<maths num="0003"><math><![CDATA[<mrow><mi>R</mi><mrow><mo>(</mo><mi>u</mi><mo>,</mo><mi>v</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mrow><munderover><mo>&Sigma;</mo><mrow><mi>x</mi><mo>=</mo><mi>u</mi></mrow><mrow><mi>u</mi><mo>+</mo><mi>U</mi><mo>-</mo><mn>1</mn></mrow></munderover><munderover><mo>&Sigma;</mo><mrow><mi>y</mi><mo>=</mo><mi>v</mi></mrow><mrow><mi>v</mi><mo>+</mo><mi>V</mi><mo>-</mo><mn>1</mn></mrow></munderover><mo>&lsqb;</mo><mi>f</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>-</mo><msub><mover><mi>f</mi><mo>&OverBar;</mo></mover><mrow><mi>u</mi><mo>,</mo><mi>v</mi></mrow></msub><mo>&rsqb;</mo><mo>&lsqb;</mo><mi>t</mi><mrow><mo>(</mo><mi>x</mi><mo>-</mo><mi>u</mi><mo>,</mo><mi>y</mi><mo>-</mo><mi>v</mi><mo>)</mo></mrow><mo>-</mo><mover><mi>t</mi><mo>&OverBar;</mo></mover><mo>&rsqb;</mo></mrow><msqrt><mrow><munderover><mo>&Sigma;</mo><mrow><mi>x</mi><mo>=</mo><mi>u</mi></mrow><mrow><mi>u</mi><mo>+</mo><mi>U</mi><mo>-</mo><mn>1</mn></mrow></munderover><munderover><mo>&Sigma;</mo><mrow><mi>y</mi><mo>=</mo><mi>v</mi></mrow><mrow><mi>v</mi><mo>+</mo><mi>V</mi><mo>-</mo><mn>1</mn></mrow></munderover><msup><mrow><mo>&lsqb;</mo><mi>f</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>-</mo><msub><mover><mi>f</mi><mo>&OverBar;</mo></mover><mrow><mi>u</mi><mo>,</mo><mi>v</mi></mrow></msub><mo>&rsqb;</mo></mrow><mn>2</mn></msup><munderover><mo>&Sigma;</mo><mrow><mi>x</mi><mo>=</mo><mi>u</mi></mrow><mrow><mi>u</mi><mo>+</mo><mi>U</mi><mo>-</mo><mn>1</mn></mrow></munderover><munderover><mo>&Sigma;</mo><mrow><mi>y</mi><mo>=</mo><mi>v</mi></mrow><mrow><mi>v</mi><mo>+</mo><mi>V</mi><mo>-</mo><mn>1</mn></mrow></munderover><msup><mrow><mo>&lsqb;</mo><mi>t</mi><mrow><mo>(</mo><mi>x</mi><mo>-</mo><mi>u</mi><mo>,</mo><mi>y</mi><mo>-</mo><mi>v</mi><mo>)</mo></mrow><mo>-</mo><mover><mi>t</mi><mo>&OverBar;</mo></mover><mo>&rsqb;</mo></mrow><mn>2</mn></msup></mrow></msqrt></mfrac><mo>,</mo></mrow>]]></math><img file="FDA0000984739630000031.GIF" wi="1310" he="302" /></maths>其中,x、y为待匹配图像的大小,U、V为模板的大小,u、v为视觉显著点,f(x,y)为待匹配图像中像素点的像素灰度值,t(x‑u,y‑v)为模板中像素点的像素灰度值,<img file="FDA0000984739630000033.GIF" wi="33" he="49" />为模板的灰度均值,<img file="FDA0000984739630000034.GIF" wi="68" he="70" />为待匹配图像的灰度均值;步骤5、采用RANSAC算法对精确匹配的图像进行提纯,计算配准估计函数,通过配准估计函数进行图像变换,实现红外图像和可见光图像的配准、输出。
地址 710071 陕西省西安市太白南路2号