发明名称 一种减小表情影响的快速三维人脸识别方法
摘要 一种以侧面轮廓线匹配作为排除算法并利用人脸刚性区域进行精确匹配的减小表情影响的快速三维人脸识别方法:首先提取三维人脸模型的鼻尖和内眼角特征点,根据特征点确定人脸对称面,人脸对称面与三维人脸点云的交构成了侧面轮廓线。在测试人脸模型侧面轮廓线上截取有价值侧面轮廓线,将测试人脸模型有价值侧面轮廓线与库集人脸模型用于匹配的侧面轮廓线采用迭代最近点算法匹配,根据匹配结果排除库集中部分不相似模型。然后提取测试人脸第一刚性区域和第二刚性区域,并分别与剩余库集模型匹配区域匹配,匹配采用基于投影和邻域搜索的改进迭代最近点算法,匹配结果采用加法规则融合,最后通过最近邻分类器得出识别结果。
申请公布号 CN101315661A 申请公布日期 2008.12.03
申请号 CN200810022336.2 申请日期 2008.07.18
申请人 东南大学 发明人 达飞鹏;李晓莉
分类号 G06K9/00(2006.01);G06K9/64(2006.01) 主分类号 G06K9/00(2006.01)
代理机构 南京经纬专利商标代理有限公司 代理人 陆志斌
主权项 1、一种减小表情影响的快速三维人脸识别方法,其特征在于该方法的主要步骤如下:步骤1以鼻尖至鼻根之间的测试人脸模型侧面轮廓线线段作为测试人脸模型中的有价值侧面轮廓线,从测试人脸模型中提取测试人脸模型中的有价值侧面轮廓线,从库集模型的各个三维人脸模型中提取用于匹配的侧面轮廓线且该用于匹配的侧面轮廓线覆盖鼻尖至鼻根之间的三维人脸模型侧面轮廓线线段;步骤2使用迭代最近点算法,从库集模型中选择出能与测试人脸模型中的有价值侧面轮廓线相匹配的库集模型中的三维人脸模型,组成剩余库集模型;步骤3从库集模型的各个三维人脸模型中提取出匹配区域,该匹配区域为以鼻尖为球心的球所包含的人脸区域,再利用剩余库集模型中的三维人脸模型的索引,从所提取出的匹配区域中,选取出属于剩余库集模型中的三维人脸模型的匹配区域,组成剩余库集模型匹配区域;步骤4从测试人脸模型中切割第一刚性区域和第二刚性区域,所述的第一刚性区域为包含鼻子的区域,所述的第二刚性区域由两眼之间的区域以及与两眼之间区域相连的部分额头区域、部分鼻子区域组成;步骤5将第一刚性区域与剩余库集模型匹配区域中第一个模型匹配区域相匹配,得到第11匹配结果d<sub>11</sub>,将第二刚性区域与剩余库集模型匹配区域中第一个模型匹配区域相匹配,得到第21匹配结果d<sub>21</sub>,将第一刚性区域的匹配结果d<sub>11</sub>与第二刚性区域的匹配结果d<sub>21</sub>采用加法规则融和,得到测试模型与剩余库集模型中的第一个模型的匹配结果d<sub>1</sub>;将第一刚性区域与剩余库集模型匹配区域中第二个模型匹配区域相匹配,得到第12匹配结果d<sub>12</sub>,将第二刚性区域与剩余库集模型匹配区域中第二个模型匹配区域相匹配,得到第22匹配结果d<sub>22</sub>,将第一刚性区域的匹配结果d<sub>12</sub>与第二刚性区域的匹配结果d<sub>22</sub>采用加法规则融和,得到测试模型与剩余库集模型中的第二个模型的匹配结果d<sub>2</sub>;依此类推,将第一刚性区域与剩余库集模型匹配区域中第n′个模型匹配区域相匹配,得到第1n′匹配结果d<sub>1n′</sub>,将第二刚性区域与剩余库集模型匹配区域中第n′个模型匹配区域相匹配,得到第2n′匹配结果d<sub>2n′</sub>’,将第一刚性区域的匹配结果d<sub>1n′</sub>与第二刚性区域的匹配结果d<sub>2n′</sub>采用加法规则融和,得到测试模型与剩余库集模型中的第n′个模型的匹配结果d<sub>n′</sub>,其中,n′为剩余库集模型中的模型个数,第一刚性区域与剩余库集模型匹配区域中的各个模型匹配区域相匹配的匹配方法,与第二刚性区域与剩余库集模型匹配区域中的各个模型匹配区域相匹配的匹配方法采用相同的匹配方法并得到相应的匹配结果,该相同的匹配方法为:(1)在测试人脸模型中取点集<maths num="0001"><![CDATA[<math><mrow><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>&Element;</mo><mi>P</mi><mo>,</mo></mrow></math>]]></maths><maths num="0002"><![CDATA[<math><mrow><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>=</mo><mo>[</mo><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>z</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths>i=1,2,...,n<sub>p</sub>,<img file="A2008100223360003C3.GIF" wi="221" he="55" />分别表示点集p<sub>i</sub><sup>k</sup>中的点p<sub>i</sub><sup>k</sup>的坐标值,上标k表示第k次迭代,k≥1,n<sub>p</sub>表示点集p<sub>i</sub><sup>k</sup>中点的个数,P为主轴坐标系下的测试人脸模型的点集,所述的主轴坐标系以鼻尖为原点O,以人脸的朝向轴为z轴,以位于人脸对称平面内且与朝向轴垂直的轴为y轴,以垂直于对称平面的轴为x轴,(2)采用基于映射和邻域搜索相结合的搜索算法查找库集模型点云中的对应点<maths num="0003"><![CDATA[<math><mrow><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>&Element;</mo><mi>G</mi><mo>,</mo></mrow></math>]]></maths>使得||G<sub>j</sub><sup>k</sup>-P<sub>i</sub><sup>k</sup>||最小,并组成对应点对{(p<sub>i</sub><sup>k</sup>,g<sub>j</sub><sup>k</sup>)},共n<sub>p</sub>对,其中,<maths num="0004"><![CDATA[<math><mrow><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>=</mo><mo>[</mo><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>z</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths>j=1,2,...,n<sub>g</sub>,<img file="A2008100223360003C6.GIF" wi="220" he="58" />分别表示点集G<sub>j</sub><sup>k</sup>中的点g<sub>j</sub><sup>k</sup>的坐标值,n<sub>g</sub>表示点集G<sub>j</sub><sup>k</sup>中点的个数,G为主轴坐标系下的库集人脸模型的点集,||·||为欧氏范数,(3)利用(2)中得到的对应点对集合,计算最优的旋转矩阵R<sup>k</sup>和平移向量T<sup>k</sup>,使得目标函数:<maths num="0005"><![CDATA[<math><mrow><mi>f</mi><mrow><mo>(</mo><msup><mi>R</mi><mi>k</mi></msup><mo>,</mo><msup><mi>T</mi><mi>k</mi></msup><mo>)</mo></mrow><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>p</mi></msub></munderover><mo>|</mo><mo>|</mo><msup><mi>R</mi><mi>k</mi></msup><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>+</mo><msup><mi>T</mi><mi>k</mi></msup><mo>-</mo><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>|</mo><mo>|</mo></mrow></math>]]></maths>最小,(4)利用(3)得到的最优的旋转矩阵R<sup>k</sup>和平移向量T<sup>k</sup>更新测试模型点集P<sub>i</sub><sup>k</sup>为P<sub>i</sub><sup>k+1</sup>:<maths num="0006"><![CDATA[<math><mrow><msubsup><mi>P</mi><mi>i</mi><mrow><mi>k</mi><mo>+</mo><mn>1</mn></mrow></msubsup><mo>=</mo><msup><mi>R</mi><mi>k</mi></msup><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>+</mo><msup><mi>T</mi><mi>k</mi></msup><mo>,</mo></mrow></math>]]></maths>(5)计算P<sub>i</sub><sup>k+1</sup>和G<sub>j</sub><sup>k</sup>之间的对应点对的平均距离d<sup>k+1</sup>:<maths num="0007"><![CDATA[<math><mrow><msup><mi>d</mi><mrow><mi>k</mi><mo>+</mo><mn>1</mn></mrow></msup><mo>=</mo><mrow><mo>(</mo><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>p</mi></msub></munderover><mo>|</mo><mo>|</mo><msubsup><mi>p</mi><mi>i</mi><mrow><mi>k</mi><mo>+</mo><mn>1</mn></mrow></msubsup><mo>-</mo><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup><mo>|</mo><mo>|</mo><mo>)</mo></mrow><mo>/</mo><msub><mi>n</mi><mi>p</mi></msub><mo>,</mo></mrow></math>]]></maths>(6)如果d<sup>k</sup>-d<sup>k+1</sup>不小于给定的阈值τ,该阈值τ为0.01,令d<sup>k</sup>=d<sup>k+1</sup>,<maths num="0008"><![CDATA[<math><mrow><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>=</mo><msubsup><mi>P</mi><mi>i</mi><mrow><mi>k</mi><mo>+</mo><mn>1</mn></mrow></msubsup><mo>,</mo></mrow></math>]]></maths>返回(2),直至d<sup>k</sup>-d<sup>k+1</sup><τ为止,以此距离d<sup>k+1</sup>为最近点平均距离,并以此最近点平均距离d<sup>k+1</sup>为匹配结果,为使第一次迭代顺利进行,应为初始对应点对的平均距离d<sup>1</sup>设定初值,设为d<sup>1</sup>=100mm,所述的用于查找库集模型点云中的对应点<maths num="0009"><![CDATA[<math><mrow><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>&Element;</mo><mi>G</mi></mrow></math>]]></maths>的基于映射和邻域搜索相结合的搜索算法为:(1)主轴坐标系下的测试人脸模型的点集为<maths num="0010"><![CDATA[<math><mrow><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>=</mo><mo>[</mo><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>z</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths>i=1,2,...n<sub>p</sub>,n<sub>p</sub>表示点集P<sub>i</sub><sup>k</sup>中的点P<sub>i</sub><sup>k</sup>的个数,主轴坐标系下的库集人脸模型的点集为<maths num="0011"><![CDATA[<math><mrow><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>=</mo><mo>[</mo><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>z</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths>j=1,2,...n<sub>g</sub>,n<sub>g</sub>表示点集G<sub>j</sub><sup>k</sup>中的点g<sub>j</sub><sup>k</sup>的个数,(2)点集P<sub>i</sub><sup>k</sup>和G<sub>j</sub><sup>k</sup>在主轴坐标系下的xoy平面上的投影分别为<maths num="0012"><![CDATA[<math><mrow><msup><msubsup><mi>P</mi><mi>i</mi><mi>k</mi></msubsup><mo>&prime;</mo></msup><mo>=</mo><mo>[</mo><msup><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup><mo>&prime;</mo></msup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>p</mi><mi>i</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths><maths num="0013"><![CDATA[<math><mrow><msup><msubsup><mi>G</mi><mi>j</mi><mi>k</mi></msubsup><mo>&prime;</mo></msup><mo>=</mo><mo>[</mo><msup><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup><mo>&prime;</mo></msup><mo>]</mo><mo>=</mo><msup><mrow><mo>[</mo><msub><mi>x</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>,</mo><msub><mi>y</mi><msubsup><mi>g</mi><mi>j</mi><mi>k</mi></msubsup></msub><mo>]</mo></mrow><mi>T</mi></msup><mo>,</mo></mrow></math>]]></maths>i=1,2,...n<sub>p</sub>,j=1,2,...n<sub>g</sub>,p<sub>i</sub><sup>k</sup>′表示点p<sub>i</sub><sup>k</sup>在xoy平面上的投影点,g<sub>j</sub><sup>k</sup>′表示点g<sub>j</sub><sup>k</sup>在xoy平面上的投影点,对投影P<sub>i</sub><sup>k</sup>′、G<sub>j</sub><sup>k</sup>′栅格化,定义围绕在p<sub>i</sub><sup>k</sup>′周围的3*3的方格为p<sub>i</sub><sup>k</sup>′的邻域V(p<sub>i</sub><sup>k</sup>′),G<sub>j</sub><sup>k</sup>′中的搜索邻域V′(g<sub>j</sub><sup>k</sup> ′)定义为围绕在g<sub>j</sub><sup>k</sup>′周围的5*5的方格,(3)采用全局搜索法搜索出点集P<sub>i</sub><sup>k</sup>中的第一个点在点集G<sub>j</sub><sup>k</sup>中的距离最近的点,组成第一组对应点对,所述的全局搜索法为:对点集P<sub>i</sub><sup>k</sup>中的一个点p<sub>m</sub><sup>k</sup>,m=1,2,....,n<sub>p</sub>,计算其与点集G<sub>j</sub><sup>k</sup>中每个点的距离,以距离最小的点g<sub>j′</sub><sup>k</sup>作为最近点,组成一组对应点对(p<sub>m</sub><sup>k</sup>,g<sub>j′</sub><sup>k</sup>),1≤j′≤n<sub>g</sub>,(4)点集P<sub>i</sub><sup>k</sup>中此后的每个点p<sub>i</sub><sup>k</sup>在G<sub>j</sub><sup>k</sup>中的最近点g<sub>j</sub><sup>k</sup>的搜索方法为:判断投影点p<sub>i</sub><sup>k</sup>′是否位于投影点p<sub>i-1</sub><sup>k</sup>′的邻域V(p<sub>i-1</sub><sup>k</sup>′)之中,当投影点p<sub>i</sub><sup>k</sup>′位于投影点p<sub>i-1</sub><sup>k</sup>′的邻域V(p<sub>i-1</sub><sup>k</sup>′)中时,在p<sub>i-1</sub><sup>k</sup>的对应点g<sub>j-1</sub><sup>k</sup>的投影点g<sub>j-1</sub><sup>k</sup>′的邻域V(g<sub>j-1</sub><sup>k</sup>′)所对应的三维空间的点集中寻找与p<sub>i</sub><sup>k</sup>距离最小的点g<sub>j</sub><sup>k</sup>,并与p<sub>i</sub><sup>k</sup>组成对应点对(p<sub>i</sub><sup>k</sup>,g<sub>j</sub><sup>k</sup>);当投影点p<sub>i</sub><sup>k</sup>′位于投影点p<sub>i-1</sub><sup>k</sup>′的邻域V(p<sub>i-1</sub><sup>k</sup>′)之外时,采用全局搜索法搜索邻域搜索法未能搜索到的p<sub>i</sub><sup>k</sup>的G<sub>j</sub><sup>k</sup>中最近点;步骤6采用最近邻分类器,从步骤5得到的匹配结果中选出相似度最高的一个作为三维人脸识别的结果,其中,以最近点平均距离作为相似性度量,认为最近点平均距离小的相似性高,最近点平均距离大的相似性低。
地址 210096江苏省南京市四牌楼2号