基于半监督SVM集成学的分类方法

摘要

本发明公开了一种基于半监督SVM集成学的分类方法，主要解决现有分类方法对样本分布未知，尤其是样本分布不平衡时分类正确率低和不稳定的问题。其实现步骤是：(1)分别对训练样本集和测试样本集进行归一化；(2)更新归一化后测试样本集中正、负样本的比率，通过局部搜索构造差异性较大的基分类器；(3)用k-means算法对基分类器的分类结果进行聚类；(4)通过集成学的分类方法获得测试样本集的最终分类结果。本发明通过更新正、负样本比率构造差异性较大的基分类器，利用更多的测试样本正确分类信息，并结合邓恩指标的集成学的分类方法，提高了分布未知的样本分类正确率和稳定性，可用于模式识别、目标检测和分类的问题。

主权项

1.一种基于半监督SVM集成学习的分类方法，包括如下步骤：(1)分别对初始训练样本集和测试样本集进行归一化处理，得到归一化后的训练样本集和测试样本集其中X_i表示初始训练样本集中的第i个样本，Y_i表示初始训练样本X_i的标签，X_j表示初始测试样本集中的第j个样本，x_i表示归一化后训练样本集中的第i个样本，y_i表示归一化后训练样本x_i的标签，x_j表示归一化后测试样本集中的第j个样本，l表示训练样本的个数，u表示测试样本的个数；(2)构造差异性较大的基分类器：(2a)设定样本的属性，即将类别标签为1的样本设为正样本，用+1表示，将类别标签为2的样本设为负样本，用-1表示；(2b)设测试样本集中的初始正、负样本比率为：并按照更新测试样本集中的正、负样本比率β，其中num_pos表示正样本的数量，num_neg表示负样本的数量，T为更新的总次数，其取值为任意正整数；(2c)随机初始化一组训练样本集和测试样本集根据不同的β参数进行局部搜索，得到T个分类器、局部搜索后的测试样本集及其T个分类结果其中表示局部搜索后测试样本集中的第j个样本，表示第t个分类结果中测试样本的标签，t＝1,2,…,T；(3)使用k-means算法对T个分类器和测试样本集的T个分类结果进行聚类，得到N个分类器和测试样本集的N个分类结果其中N取值为任意小于T的正整数，表示聚类后第n个分类结果中测试样本的标签，n＝1,2,…,N；(4)依次输入训练样本集测试样本集测试样本集的N个分类结果通过集成学习获得测试样本集的最终分类结果(4a)从测试样本集的第n个分类结果中，找出测试样本集中与第j个测试样本分类结果一致的样本集和分类结果不一致的样本集，即一致集X_same和非一致集X_dif；(4b)根据欧式距离，找出第j个测试样本在一致集X_same和非一致集X_dif中的K近邻集合X_same-k和X_dif-k；(4c)将K近邻集合X_same-k、X_dif-k分别与训练样本进行聚类，得到相似集S和相反集D；(4d)依次对第j个测试样本的N个分类结果计算邓恩指标DI_j(n)，n＝1,2,…,N；(4e)对上述邓恩指标DI_j(n)进行降序排列，并从前个邓恩指标DI_j(n)对应的第j个测试样本中，取出个分类结果的标签作为第j个测试样本的标签集M；(4f)对标签集M中的标签求和，构造标签的和的符号函数根据该符号函数的值判定第j个测试样本的最终标签其中表示标签集M中第m个标签，m＝1,2,…,M：若标签的和大于零，则符号函数的值为+1，得到第j个测试样本的最终标签为+1；若标签的和小于零，则符号函数的值为-1，得到第j个测试样本的最终标签为-1；若标签的和等于零，则符号函数的值为0，得到第j个测试样本的最终标签为邓恩指标DI_j(n)最大值对应的第j个测试样本的标签即$y_j^{\mathrm{final}}=y_j^{\max };$(4g)重复步骤(4a)至(4f)，得到测试样本集中所有测试样本的最终分类结果$\{y_j^{\mathrm{final}}{\}}_{j=1}^u.$