发明名称 一种基于支持向量机的核矩阵近似方法
摘要 本发明公开了一种基于支持向量机的核矩阵近似方法,该方法包括以下步骤:将作为样本的核矩阵借助支持向量机的凸二次约束规划表示,即给出支持向量机的二阶锥规划表示;综合Monte Carlo随机算法和不完全Cholesky分解算法进行核矩阵的近似算法KMA-α;通过上述近似计算KMA-α将大规模核矩阵处理成低秩小规模的近似核矩阵;将近似核矩阵25作为支持向量机的不确定核矩阵SVM的输入。与现有技术相比,本发明可折衷计算效率和计算精度,在保证计算精度的情况下,有效提高SVM二阶锥规划求解的效率.理论分析与实验验证表明KMA-α是一正确、有效的核矩阵近似算法。
申请公布号 CN102426562A 申请公布日期 2012.04.25
申请号 CN201110151858.4 申请日期 2011.08.15
申请人 天津大学 发明人 廖士中;杨晨豪;丁立中
分类号 G06F17/17(2006.01)I;G06F17/16(2006.01)I 主分类号 G06F17/17(2006.01)I
代理机构 天津市北洋有限责任专利代理事务所 12201 代理人 李素兰
主权项 1.一种基于支持向量机的核矩阵近似方法,该方法包括以下步骤:步骤一,将作为样本的核矩阵借助支持向量机的凸二次约束规划表示,即给出支持向量机的二阶锥规划表示;步骤二,综合Monte Carlo随机算法和不完全Cholesky分解算法进行核矩阵的近似算法KMA-α,该近似算法KMA-α进一步包括以下步骤:利用Monte Carlo随机算法进行随机采样部分:通过右乘、左乘采样矩阵S及其转置使得矩阵的规模由原来的n×n变为c×c.然后,通过左乘、右乘比例矩阵D,实现对矩阵元素的缩放,保证近似的无偏性;<img file="FDA0000066825090000011.GIF" wi="104" he="45" />为采样分布函数,p<sub>i</sub>(1≤i≤n)表示第i列被采样到概率,满足<img file="FDA0000066825090000012.GIF" wi="171" he="112" />采样分布的定义对于最终的采样结果有重要的影响,常见的定义方式有p<sub>i</sub>=1/n,<img file="FDA0000066825090000013.GIF" wi="262" he="98" />和<img file="FDA0000066825090000014.GIF" wi="327" he="62" />c为采样规模.。通过该值可直接调节近似矩阵的秩。S为采样矩阵,D为采样后对矩阵;基于不完全Cholesky分解方法,将矩阵的特征值分为相对较大和相对较小两组,通过合理地选择分界的阈值ε<sub>tol</sub>,ε<sub>tol</sub>为未被选取的矩阵主对角线元素之和的下界ε<sub>tol</sub>按经验取10<sup>-10</sup>左右的值,根据数据可作调整以设置近似的程度,求解样本矩阵的一个接近最优near-optimal的低秩近似形式。步骤三,通过上述近似计算KMA-α将大规模核矩阵处理成低秩小规模的近似核矩阵;步骤四,将近似核矩阵作为支持向量机的不确定核矩阵SVM的输入。
地址 300072 天津市南开区卫津路92号