发明名称 基于子空间投影和邻域嵌入的图像超分辨率重建方法
摘要 一种基于子空间投影和邻域嵌入的图像超分辨率重建方法,它先采用一、二级子空间投影方法将原始高维数据投影到低维空间,用降维特征向量表示低分辨率图像块的特征,既保留原始数据的全局结构信息,又保留局部结构信息;再在低维空间比较降维特征向量之间的欧氏距离,找出与待重建低分辨率图像块最为匹配的邻域块,并由特征向量之间的相似度和比例因子来构造出更准确的嵌入权重系数,提高了搜索速度和匹配精度;接着构造出特征向量间的相似度和比例因子,计算出更精确的权重系数,从训练库中获取到更多的高频信息;最后,根据权重系数和邻域块估计出精度更高的高分辨率图像块,重建出与真实物体的相似度更高的图像,有利于后期真实物体识别处理。
申请公布号 CN102629374B 申请公布日期 2014.05.21
申请号 CN201210049804.1 申请日期 2012.02.29
申请人 西南交通大学 发明人 李小燕;和红杰;尹忠科;陈帆
分类号 G06T5/50(2006.01)I;G06T5/40(2006.01)I 主分类号 G06T5/50(2006.01)I
代理机构 成都博通专利事务所 51208 代理人 陈树明
主权项 1.一种基于子空间投影和邻域嵌入的图像超分辨率重建方法,包括以下步骤:A、训练:将L幅分辨率相同、大小相同的高分辨率图像作为训练高分辨率图像<img file="FDA0000446053710000011.GIF" wi="108" he="100" />l=1,2,…,L,L=3~80;对每幅训练高分辨率图像<img file="FDA0000446053710000012.GIF" wi="78" he="92" />进行重叠分块后得到N<sub>1</sub>个大小为z*z的训练高分辨率图像块,N<sub>1</sub>=1000~7000,z=6,9,12,15,共得到N=L*N<sub>1</sub>个训练高分辨率图像块,提取每个训练高分辨率图像块的标准化亮度特征作为一个训练高分辨率标准化亮度特征图像块,将第i个训练高分辨率标准化亮度特征图像块按一列一列的顺序转换为第i个训练高分辨率特征向量<img file="FDA0000446053710000013.GIF" wi="105" he="86" />i=1,2,…,N,每个训练高分辨率特征向量<img file="FDA0000446053710000014.GIF" wi="66" he="86" />的维数均为d<sub>1</sub>=z<sup>2</sup>,所有训练高分辨率特征向量<img file="FDA0000446053710000015.GIF" wi="258" he="84" />组成一个训练高分辨率特征矩阵<img file="FDA0000446053710000016.GIF" wi="533" he="85" />对第l(1≤l≤L)幅训练高分辨率图像<img file="FDA0000446053710000017.GIF" wi="76" he="100" />做a倍下采样处理,a=2,3,4,5,得到对应的第l幅训练低分辨率图像<img file="FDA0000446053710000018.GIF" wi="110" he="93" />再对每幅训练低分辨率图像<img file="FDA0000446053710000019.GIF" wi="82" he="92" />做a倍上采样处理后得到对应的训练插值图像<img file="FDA00004460537100000110.GIF" wi="102" he="84" />提取每幅训练插值图像<img file="FDA00004460537100000111.GIF" wi="70" he="84" />的一阶水平、一阶垂直和二阶水平、二阶垂直梯度特征,同时对这四幅梯度特征图像进行重叠分块,每幅训练插值图像<img file="FDA00004460537100000112.GIF" wi="77" he="91" />重叠分块后得到4*N<sub>1</sub>个大小为z*z的训练低分辨率梯度特征图像块,共得到4*N个训练低分辨率梯度特征图像块,每一个训练低分辨率图像块的四个不同类型梯度特征图像块作为一个训练低分辨率梯度特征图像块组,将第i个训练低分辨率梯度特征图像块组按一列一列的顺序转换为第i个训练低分辨率特征向量<img file="FDA00004460537100000113.GIF" wi="94" he="84" />每个训练低分辨率特征向量<img file="FDA00004460537100000114.GIF" wi="72" he="85" />的维数均为d<sub>2</sub>=4*z<sup>2</sup>,所有训练低分辨率特征向量<img file="FDA00004460537100000115.GIF" wi="256" he="92" />组成一个训练低分辨率特征矩阵<maths num="0001"><![CDATA[<math><mrow><msup><mi>X</mi><mi>s</mi></msup><mo>=</mo><mo>[</mo><msubsup><mi>x</mi><mn>1</mn><mi>s</mi></msubsup><mo>,</mo><msubsup><mi>x</mi><mn>2</mn><mi>s</mi></msubsup><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><msubsup><mi>x</mi><mi>N</mi><mi>s</mi></msubsup><mo>]</mo><mo>;</mo></mrow></math>]]></maths>B、预处理:输入待重建低分辨率图像R<sup>d</sup>,其分辨率与所有训练低分辨率图像<img file="FDA0000446053710000021.GIF" wi="266" he="93" />的分辨率相同,将待重建低分辨率图像R<sup>d</sup>进行a倍上采样处理后得到待重建插值图像R<sup>c</sup>,提取待重建插值图像R<sup>c</sup>的一阶水平、一阶垂直和二阶水平、二阶垂直梯度特征,同时对这四幅梯度特征图像进行重叠分块后共得到4*N<sub>2</sub>个大小为z*z的待重建低分辨率梯度特征图像块,N<sub>2</sub>=1000~7000,每一个待重建低分辨率图像块的四个不同类型梯度特征图像块作为一个待重建低分辨率梯度特征图像块组,将第j个待重建低分辨率梯度特征图像块组按一列一列的顺序转换为第j个待重建低分辨率特征向量<img file="FDA0000446053710000022.GIF" wi="96" he="96" />j=1,2,…,N<sub>2</sub>,每个待重建低分辨率特征向量<img file="FDA0000446053710000023.GIF" wi="74" he="98" />的维数与所有训练低分辨率特征向量<img file="FDA0000446053710000024.GIF" wi="264" he="86" />的维数相同,均为d<sub>2</sub>=4*z<sup>2</sup>,所有待重建低分辨率特征向量<img file="FDA0000446053710000025.GIF" wi="280" he="101" />组成一个待重建低分辨率特征矩阵<maths num="0002"><![CDATA[<math><mrow><msup><mi>X</mi><mi>t</mi></msup><mo>=</mo><mo>[</mo><msubsup><mi>x</mi><mn>1</mn><mi>t</mi></msubsup><mo>,</mo><msubsup><mi>x</mi><mn>2</mn><mi>t</mi></msubsup><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><msubsup><mi>x</mi><msub><mi>N</mi><mn>2</mn></msub><mi>t</mi></msubsup><mo>]</mo><mo>;</mo></mrow></math>]]></maths>C、超分辨率重建:C1、子特征矩阵生成:对步骤B中得到的每个待重建低分辨率特征向量<img file="FDA0000446053710000027.GIF" wi="308" he="97" />依次在步骤A得到的训练低分辨率特征矩阵<img file="FDA0000446053710000028.GIF" wi="316" he="92" />中寻找出与第j个待重建低分辨率特征向量<img file="FDA0000446053710000029.GIF" wi="76" he="96" />之间欧氏距离最小的n-1=100~300个训练低分辨率特征向量,将第j个待重建低分辨率特征向量<img file="FDA00004460537100000210.GIF" wi="76" he="96" />作为子特征向量x<sub>1j</sub>,并将寻找到的n-1个训练低分辨率特征向量按与第j个待重建低分辨率特征向量<img file="FDA00004460537100000211.GIF" wi="68" he="96" />之间欧氏距离从小到大依次作为子特征向量x<sub>2j</sub>,x<sub>3j</sub>,…,x<sub>nj</sub>,由此组成第j个子特征矩阵<maths num="0003"><![CDATA[<math><mrow><msub><mi>X</mi><mi>j</mi></msub><mo>=</mo><msubsup><mrow><mo>{</mo><msub><mi>x</mi><mrow><mi>i</mi><mo>&prime;</mo><mi>j</mi></mrow></msub><mo>}</mo></mrow><mrow><mi>i</mi><mo>&prime;</mo><mo>=</mo><mn>1</mn></mrow><mi>n</mi></msubsup><mo>;</mo></mrow></math>]]></maths>C2、降维特征矩阵生成:采用一、二级子空间投影方法,将第j个子特征矩阵<img file="FDA00004460537100000213.GIF" wi="324" he="94" />进行特征降维,每个子特征向量x<sub>i′j</sub>(1≤i′≤n)投影到一个低维子空间上,共得到n个降维特征向量<img file="FDA00004460537100000214.GIF" wi="212" he="94" />每个降维特征向量<img file="FDA00004460537100000215.GIF" wi="96" he="96" />的维数为m&lt;d<sub>2</sub>;每个子特征向量x<sub>i′j</sub>与对应的降维特征向量<img file="FDA00004460537100000216.GIF" wi="80" he="99" />形成一一映射关系,经一、二级子空间投影后,维数为d<sub>2</sub>的子特征向量x<sub>i′j</sub>转换成维数为m的降维特征向量<img file="FDA0000446053710000031.GIF" wi="113" he="92" />实现特征降维,所有降维特征向量<img file="FDA0000446053710000032.GIF" wi="292" he="98" />组成第j个降维特征矩阵<maths num="0004"><![CDATA[<math><mrow><msubsup><mi>X</mi><mi>j</mi><mi>m</mi></msubsup><mo>=</mo><msubsup><mrow><mo>{</mo><msubsup><mi>x</mi><mrow><mi>i</mi><mo>&prime;</mo><mi>j</mi></mrow><mi>m</mi></msubsup><mo>}</mo></mrow><mrow><mi>i</mi><mo>&prime;</mo><mo>=</mo><mn>1</mn></mrow><mi>n</mi></msubsup><mo>;</mo></mrow></math>]]></maths>C3、权重系数计算:在步骤C2得到的降维特征向量集合<img file="FDA0000446053710000034.GIF" wi="194" he="92" />中寻找出与降维特征向量<img file="FDA0000446053710000035.GIF" wi="88" he="87" />之间欧氏距离最小的k个降维特征向量,k=5~10,根据步骤C1中子特征向量x<sub>i′j</sub>与步骤C2中降维特征向量<img file="FDA0000446053710000036.GIF" wi="90" he="95" />之间的一一映射关系,以及寻找到的k个降维特征向量的索引号,依次在步骤A得到的训练低、高分辨率特征矩阵X<sup>s</sup>和Y<sup>s</sup>中寻找出对应的k对训练低、高分辨率特征向量,并由这k对训练低、高分辨率特征向量分别组成第j个近邻低、高分辨率特征矩阵<maths num="0005"><![CDATA[<math><mrow><msubsup><mi>X</mi><mi>j</mi><mi>f</mi></msubsup><mo>=</mo><msubsup><mrow><mo>{</mo><msubsup><mi>x</mi><mrow><mi>i</mi><mo>&Prime;</mo><mi>j</mi></mrow><mi>f</mi></msubsup><mo>}</mo></mrow><mrow><mi>i</mi><mo>&Prime;</mo><mo>=</mo><mn>1</mn></mrow><mi>k</mi></msubsup></mrow></math>]]></maths>和<maths num="0006"><![CDATA[<math><mrow><msubsup><mi>Y</mi><mi>j</mi><mi>f</mi></msubsup><mo>=</mo><msubsup><mrow><mo>{</mo><msubsup><mi>y</mi><mrow><mi>i</mi><mo>&Prime;</mo><mi>j</mi></mrow><mi>f</mi></msubsup><mo>}</mo></mrow><mrow><mi>i</mi><mo>&Prime;</mo><mo>=</mo><mn>1</mn></mrow><mi>k</mi></msubsup><mo>;</mo></mrow></math>]]></maths>根据第j个近邻低分辨率特征矩阵<maths num="0007"><![CDATA[<math><mrow><msubsup><mi>X</mi><mi>j</mi><mi>f</mi></msubsup><mo>=</mo><msubsup><mrow><mo>{</mo><msubsup><mi>x</mi><mrow><mi>i</mi><mo>&Prime;</mo><mi>j</mi></mrow><mi>f</mi></msubsup><mo>}</mo></mrow><mrow><mi>i</mi><mo>&Prime;</mo><mo>=</mo><mn>1</mn></mrow><mi>k</mi></msubsup></mrow></math>]]></maths>和第j个待重建低分辨率特征向量<img file="FDA00004460537100000310.GIF" wi="78" he="96" />计算出第j个相似度组<img file="FDA00004460537100000311.GIF" wi="202" he="103" />和第j个比例因子组<img file="FDA00004460537100000312.GIF" wi="216" he="102" />并联合<img file="FDA00004460537100000313.GIF" wi="205" he="107" />和<img file="FDA00004460537100000314.GIF" wi="184" he="105" />计算出第j个归一化嵌入权重系数组<img file="FDA00004460537100000321.GIF" wi="229" he="100" />C4、重建高分辨率图像块:根据第j个归一化嵌入权重系数组<img file="FDA00004460537100000316.GIF" wi="202" he="101" />和第j个近邻高分辨率特征矩阵<img file="FDA00004460537100000317.GIF" wi="342" he="100" />的线性加权形式,来估计出第j个重建后高分辨率特征向量<img file="FDA00004460537100000318.GIF" wi="99" he="97" />再与第j个待重建低分辨率图像块的亮度均值<img file="FDA00004460537100000319.GIF" wi="75" he="92" />相加,并转换为图像块形式,即可得出第j个重建后高分辨率图像块;重复以上的步骤C1~步骤C4,共得到N<sub>2</sub>个大小为z*z的重建后高分辨率图像块,重叠拼接后得到超分辨率重建的初步图像H<sub>0</sub>;D、后处理:采用迭代后投影算法对超分辨率重建的初步图像H<sub>0</sub>进行Q次迭代计算处理,Q=10~30,得到超分辨率重建的最终图像H<sup>*</sup>。
地址 610031 四川省成都市二环路北一段111号