发明名称 一种基于极限学机算法的识别方法
摘要 本发明公开了一种基于极限学机算法的识别方法,其提高网络的泛化性能,使解析求得的输出权值更加利于分类,从而大大提高了识别率。该方法包括训练阶段,对于给定训练集N={(x<sub>i</sub>,t<sub>i</sub>)|x<sub>i</sub>∈R<sup>n</sup>,t<sub>i</sub>∈R<sup>m</sup>,i=1,…,N},激活函数g(x)=log(1+e<sup>x</sup>),隐单元个数L,其包括步骤:(1)随机生成输入单元与隐单元之间的权值w<sub>j</sub>,隐单元的偏置b<sub>j</sub>,其中j=1,…,L;(2)计算隐单元的输出矩阵;(3)分别计算H中同一类别分量的类内距S<sub>w</sub>和不同类别分量的类间距S<sub>b</sub>对输出权值β求导中的S<sub>1</sub>,S<sub>2</sub>;(4)通过公式(20)计算隐单元到输出单元的输出权值β。
申请公布号 CN104616030A 申请公布日期 2015.05.13
申请号 CN201510029085.0 申请日期 2015.01.21
申请人 北京工业大学 发明人 孙艳丰;杨新东;胡永利
分类号 G06K9/66(2006.01)I;G06N3/08(2006.01)I 主分类号 G06K9/66(2006.01)I
代理机构 北京中北知识产权代理有限公司 11253 代理人 冯梦洪
主权项 一种基于极限学习机算法的识别方法,其特征在于,该方法包括训练阶段,对于给定训练集N={(x<sub>i</sub>,t<sub>i</sub>)|x<sub>i</sub>∈R<sup>n</sup>,t<sub>i</sub>∈R<sup>m</sup>,i=1,…,N},激活函数g(x)=log(1+e<sup>x</sup>),隐单元个数L,其包括以下步骤:(1)随机生成输入单元与隐单元之间的权值w<sub>j</sub>,隐单元的偏置b<sub>j</sub>,其中j=1,…,L;(2)通过公式(3)计算隐单元的输出矩阵H,<img file="FDA0000659249700000011.GIF" wi="1636" he="237" />通过公式(15)、(16)分别计算H中同一类别分量的类内距S<sub>w</sub>和不同类别分量的类间距S<sub>b</sub>对输出权值β求导中的S<sub>1</sub>,S<sub>2</sub>,<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><msub><mi>S</mi><mn>1</mn></msub><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></munderover><msup><mrow><mo>[</mo><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>-</mo><mfrac><mn>1</mn><msub><mi>n</mi><mi>i</mi></msub></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>]</mo></mrow><mi>T</mi></msup><mo>[</mo><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>-</mo><mfrac><mn>1</mn><msub><mi>n</mi><mi>i</mi></msub></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>k</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>]</mo><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>15</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000659249700000012.GIF" wi="1669" he="149" /></maths><maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><msub><mi>S</mi><mn>2</mn></msub><mo>=</mo><munderover><mi>&Sigma;</mi><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></munderover><msup><mrow><mo>[</mo><mfrac><mn>1</mn><msub><mi>n</mi><mi>i</mi></msub></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>-</mo><mfrac><mn>1</mn><mi>N</mi></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><mi>h</mi><mrow><mo>(</mo><msub><mi>x</mi><mi>k</mi></msub><mo>)</mo></mrow><mo>]</mo></mrow><mi>T</mi></msup><mo>[</mo><mfrac><mn>1</mn><msub><mi>n</mi><mi>i</mi></msub></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><msub><mi>n</mi><mi>i</mi></msub></munderover><mi>h</mi><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>)</mo></mrow><mi>i</mi></msup><mo>-</mo><mfrac><mn>1</mn><mi>N</mi></mfrac><munderover><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><mi>N</mi></munderover><mi>h</mi><mrow><mo>(</mo><msub><mi>x</mi><mi>k</mi></msub><mo>)</mo></mrow><mo>]</mo><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>16</mn><mo>)</mo></mrow><mo>;</mo></mrow>]]></math><img file="FDA0000659249700000013.GIF" wi="1683" he="148" /></maths>(3)通过公式(20)计算隐单元到输出单元的输出权值β<maths num="0003" id="cmaths0003"><math><![CDATA[<mrow><mi>&beta;</mi><mo>=</mo><msup><mrow><mo>(</mo><mfrac><mi>I</mi><mi>C</mi></mfrac><mo>+</mo><msup><mi>H</mi><mi>T</mi></msup><mi>H</mi><mo>+</mo><mi>a</mi><mo>*</mo><msub><mi>S</mi><mn>1</mn></msub><mo>-</mo><mi>b</mi><mo>*</mo><msub><mi>S</mi><mn>2</mn></msub><mo>)</mo></mrow><mrow><mo>-</mo><mn>1</mn></mrow></msup><msup><mi>H</mi><mi>T</mi></msup><mi>T</mi><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>20</mn><mo>)</mo></mrow><mo>.</mo></mrow>]]></math><img file="FDA0000659249700000014.GIF" wi="1633" he="127" /></maths>
地址 100124 北京市朝阳区平乐园100号