发明名称 基于核对齐的多核优化算法
摘要 本发明属于机器学领域中的一种多核组合优化算法。为提供一种能有效地避免“维数灾难”,应用于机器自学的算法,本发明采用的技术方案是,基于核对齐的多核优化算法,把核对齐方法运用到多核的凸线性组合中来,再运用正则化方法,最后通过化简能把该问题化为一股的凸二次优化问题。本发明主要应用于机器学领域。
申请公布号 CN101833692A 申请公布日期 2010.09.15
申请号 CN201010162561.3 申请日期 2010.05.05
申请人 天津大学 发明人 廖士中;刘勇;贾磊
分类号 G06N99/00(2010.01)I 主分类号 G06N99/00(2010.01)I
代理机构 天津市北洋有限责任专利代理事务所 12201 代理人 刘国威
主权项 一种基于核对齐的多核优化算法,其特征是,把核对齐方法运用到多核的凸线性组合中来,再运用正则化方法,最后通过化简能把该问题化为一般的凸二次优化问题,具体包括下列步骤:构造核矩阵:已知样本实例为(xi,yi)i=1l,其中xi∈Rn,yi∈{-1,+1},采用包括高斯核函数,多项式核函数,感知器核函数,样条核函数的核函数,运用这些核函数构造k个核矩阵K1,K2…Kk;推导化简:利用已知K是一个对称矩阵,那么K是一个半正定矩阵的充分必要条件是对所有的半正定矩阵G使<K,G>F≥0;再运用正则化方法则可得: <mrow> <munder> <mi>max</mi> <mi>a</mi> </munder> <msub> <mi>&Sigma;</mi> <mi>k</mi> </msub> <msub> <mi>a</mi> <mi>k</mi> </msub> <msup> <mi>y</mi> <mo>&prime;</mo> </msup> <msub> <mi>K</mi> <mi>k</mi> </msub> <mi>y</mi> <mo>-</mo> <msub> <mi>&Sigma;</mi> <mi>kl</mi> </msub> <msub> <mi>a</mi> <mi>k</mi> </msub> <msub> <mi>a</mi> <mi>l</mi> </msub> <msub> <mrow> <mo>&lt;</mo> <msub> <mi>K</mi> <mi>k</mi> </msub> <mo>,</mo> <msub> <mi>K</mi> <mi>l</mi> </msub> <mo>></mo> </mrow> <mi>F</mi> </msub> <mo>-</mo> <mi>&lambda;</mi> <munder> <mi>&Sigma;</mi> <mi>k</mi> </munder> <msup> <msub> <mi>a</mi> <mi>k</mi> </msub> <mn>2</mn> </msup> </mrow> <mrow> <mmultiscripts> <mi>&Sigma;</mi> <mi>k</mi> <none/> <mprescripts/> <mo>=</mo> <none/> </mmultiscripts> <msub> <mi>a</mi> <mi>k</mi> </msub> <msup> <mi>y</mi> <mo>&prime;</mo> </msup> <msub> <mi>K</mi> <mi>k</mi> </msub> <mi>y</mi> <mo>-</mo> <msub> <mi>&Sigma;</mi> <mi>kl</mi> </msub> <msub> <mi>a</mi> <mi>k</mi> </msub> <msub> <mi>a</mi> <mi>l</mi> </msub> <mrow> <mo>(</mo> <msub> <mrow> <mo>&lt;</mo> <msub> <mi>K</mi> <mi>k</mi> </msub> <mo>,</mo> <msub> <mi>K</mi> <mi>l</mi> </msub> <mo>></mo> </mrow> <mi>F</mi> </msub> <mo>-</mo> <mi>&lambda;</mi> <msub> <mi>&delta;</mi> <mi>kl</mi> </msub> <mo>)</mo> </mrow> </mrow> <mrow> <mmultiscripts> <munder> <mi>&Sigma;</mi> <mi>t</mi> </munder> <mprescripts/> <mrow> <mi>Subjectt</mi> <mn>0</mn> </mrow> <none/> </mmultiscripts> <msub> <mi>&alpha;</mi> <mi>t</mi> </msub> <mo>=</mo> <mn>1</mn> </mrow>at≥0其中δkl=1当k=l,其它δkl=0;采用解凸二阶优化问题的函数解决前述步骤得到的凸二阶优化问题。
地址 300072 天津市南开区卫津路92号