发明名称 基于鉴别线性表示核字典学的分类方法
摘要 本发明公开了基于鉴别线性表示核字典学的分类方法,该方法利用训练样本集识别测试样本所属的类别。在训练阶段,首先对训练样本集进行核映射,得到每一类训练样本的核矩阵,然后通过鉴别线性表示核字典学得到对应每一类训练样本核矩阵的字典。在分类测试阶段,首先对测试样本进行核映射,得到测试样本的核矩阵,然后计算用对应每一类训练样本核矩阵的字典去重构测试样本的重构误差,最后将测试样本归为重构误差最小的字典所对应的那一类。本发明相较于现有技术有效提高了字典的分类能力,明显提高了分类精度。
申请公布号 CN106446953A 申请公布日期 2017.02.22
申请号 CN201610861196.2 申请日期 2016.09.28
申请人 南京信息工程大学 发明人 刘茜
分类号 G06K9/62(2006.01)I 主分类号 G06K9/62(2006.01)I
代理机构 江苏爱信律师事务所 32241 代理人 唐小红
主权项 基于鉴别线性表示核字典学习的分类方法,其特征在于,设X=[X<sub>1</sub>,X<sub>2</sub>,...,X<sub>c</sub>]表示包含c个类别的训练样本集,<img file="FDA0001122705980000011.GIF" wi="363" he="71" />表示第i个类别的训练样本集,X<sub>i</sub>包含N<sub>i</sub>个样本,x<sub>ij</sub>∈R<sup>d</sup>(R<sup>d</sup>表示d维的实向量集合)表示第i类的第j个训练样本,<img file="FDA0001122705980000012.GIF" wi="206" he="103" />y∈R<sup>d</sup>表示一个测试样本,分如下阶段步骤:A、在训练阶段步骤1,通过核映射φ:R<sup>d</sup>→F将所有训练样本从d维的线性空间R<sup>d</sup>映射到高维的非线性空间F,则训练样本x<sub>ij</sub>映射为φ(x<sub>ij</sub>);令<img file="FDA0001122705980000013.GIF" wi="651" he="79" />φ(X)=[φ(X<sub>1</sub>),φ(X<sub>2</sub>),...,φ(X<sub>c</sub>)],K<sub>i</sub>=[φ(X)]<sup>T</sup>φ(X<sub>i</sub>);步骤2,基于鉴别线性表示核字典学习的分类方法通过求解下面的问题获得(1)对应第i个类别的字典<img file="FDA0001122705980000014.GIF" wi="191" he="55" />(<img file="FDA0001122705980000015.GIF" wi="102" he="46" />表示N<sub>i</sub>×N<sub>i</sub>阶实矩阵集合),i=1,2,…,c;(2)使用D<sub>i</sub>分别去线性表示φ(X<sub>1</sub>),φ(X<sub>2</sub>),...,φ(X<sub>c</sub>)的c个线性表示系数矩阵<img file="FDA0001122705980000016.GIF" wi="678" he="55" /><maths num="0001"><math><![CDATA[<mrow><munder><mi>min</mi><mrow><msub><mi>D</mi><mi>i</mi></msub><mo>,</mo><msubsup><mi>A</mi><mn>1</mn><mi>i</mi></msubsup><mo>,</mo><msubsup><mi>A</mi><mn>2</mn><mi>i</mi></msubsup><mo>,</mo><mn>...</mn><mo>,</mo><msubsup><mi>A</mi><mi>c</mi><mi>i</mi></msubsup></mrow></munder><mo>|</mo><mo>|</mo><msup><mrow><mo>&lsqb;</mo><mi>&phi;</mi><mrow><mo>(</mo><mi>X</mi><mo>)</mo></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup><mi>&phi;</mi><mrow><mo>(</mo><msub><mi>X</mi><mi>i</mi></msub><mo>)</mo></mrow><mo>-</mo><msup><mrow><mo>&lsqb;</mo><mi>&phi;</mi><mrow><mo>(</mo><mi>X</mi><mo>)</mo></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup><msub><mi>D</mi><mi>i</mi></msub><msubsup><mi>A</mi><mi>i</mi><mi>i</mi></msubsup><mo>|</mo><msubsup><mo>|</mo><mi>F</mi><mn>2</mn></msubsup><mo>-</mo><mfrac><mn>1</mn><mrow><mi>c</mi><mo>-</mo><mn>1</mn></mrow></mfrac><munderover><munder><mo>&Sigma;</mo><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow></munder><mrow><mi>j</mi><mo>&NotEqual;</mo><mi>i</mi></mrow><mi>c</mi></munderover><mo>|</mo><mo>|</mo><msup><mrow><mo>&lsqb;</mo><mi>&phi;</mi><mrow><mo>(</mo><mi>X</mi><mo>)</mo></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup><mi>&phi;</mi><mrow><mo>(</mo><msub><mi>X</mi><mi>j</mi></msub><mo>)</mo></mrow><mo>-</mo><msup><mrow><mo>&lsqb;</mo><mi>&phi;</mi><mrow><mo>(</mo><mi>X</mi><mo>)</mo></mrow><mo>&rsqb;</mo></mrow><mi>T</mi></msup><msub><mi>D</mi><mi>i</mi></msub><msubsup><mi>A</mi><mi>j</mi><mi>i</mi></msubsup><mo>|</mo><msubsup><mo>|</mo><mi>F</mi><mn>2</mn></msubsup></mrow>]]></math><img file="FDA0001122705980000017.GIF" wi="1534" he="134" /></maths>为方便求解,令D′<sub>i</sub>=[φ(X)]<sup>T</sup>D<sub>i</sub>,则上式可改写为<maths num="0002"><math><![CDATA[<mrow><munder><mrow><mi>m</mi><mi>i</mi><mi>n</mi></mrow><mrow><msubsup><mi>D</mi><mi>i</mi><mo>&prime;</mo></msubsup><mo>,</mo><msubsup><mi>A</mi><mn>1</mn><mi>i</mi></msubsup><mo>,</mo><msubsup><mi>A</mi><mn>2</mn><mi>i</mi></msubsup><mo>,</mo><mo>...</mo><mo>,</mo><msubsup><mi>A</mi><mi>c</mi><mi>i</mi></msubsup></mrow></munder><mo>|</mo><mo>|</mo><msub><mi>K</mi><mi>i</mi></msub><mo>-</mo><msubsup><mi>D</mi><mi>i</mi><mo>&prime;</mo></msubsup><msubsup><mi>A</mi><mi>i</mi><mi>i</mi></msubsup><mo>|</mo><msubsup><mo>|</mo><mi>F</mi><mn>2</mn></msubsup><mo>-</mo><mfrac><mn>1</mn><mrow><mi>c</mi><mo>-</mo><mn>1</mn></mrow></mfrac><munderover><munder><mo>&Sigma;</mo><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow></munder><mrow><mi>j</mi><mo>&NotEqual;</mo><mi>i</mi></mrow><mi>c</mi></munderover><mo>|</mo><mo>|</mo><msub><mi>K</mi><mi>j</mi></msub><mo>-</mo><msubsup><mi>D</mi><mi>i</mi><mo>&prime;</mo></msubsup><msubsup><mi>A</mi><mi>j</mi><mi>i</mi></msubsup><mo>|</mo><msubsup><mo>|</mo><mi>F</mi><mn>2</mn></msubsup></mrow>]]></math><img file="FDA0001122705980000018.GIF" wi="782" he="132" /></maths>通过依次更新<img file="FDA0001122705980000019.GIF" wi="198" he="55" />和D′<sub>i</sub>进行迭代求解,得到这两组变量的解;B、在分类测试阶段步骤1,通过核映射φ将测试样本y从d维的线性空间R<sup>d</sup>映射到高维的非线性空间F,则测试样本y映射为φ(y);令K<sub>y</sub>=[φ(X)]<sup>T</sup>φ(y);步骤2,基于鉴别线性表示核字典学习的分类方法通过求解下面的问题获得线性表示系数向量<img file="FDA00011227059800000110.GIF" wi="172" he="55" /><maths num="0003"><math><![CDATA[<mrow><munder><mrow><mi>m</mi><mi>i</mi><mi>n</mi></mrow><msub><mi>&beta;</mi><mi>i</mi></msub></munder><mo>|</mo><mo>|</mo><msub><mi>K</mi><mi>y</mi></msub><mo>-</mo><msubsup><mi>D</mi><mi>i</mi><mo>&prime;</mo></msubsup><msub><mi>&beta;</mi><mi>i</mi></msub><mo>|</mo><msub><mo>|</mo><mn>2</mn></msub></mrow>]]></math><img file="FDA00011227059800000111.GIF" wi="294" he="77" /></maths>计算用D′<sub>i</sub>去重构K<sub>y</sub>的重构误差,如下:r<sub>i</sub>(y)=||K<sub>y</sub>‑D′<sub>i</sub>β<sub>i</sub>||<sub>2</sub>(i=1,2,…,c)步骤3,如果r<sub>k</sub>(y)在r<sub>1</sub>(y),r<sub>2</sub>(y),…,r<sub>c</sub>(y)中最小,基于鉴别线性表示核字典学习的分类方法将测试样本y归到第k类。
地址 210000 江苏省南京市宁六路216号