发明名称 |
一种基于混合范数的数据分类训练数据库清洗方法 |
摘要 |
本方法公开了一种基于混合范数的数据分类训练数据库清洗方法。目标是大规模减少训练样本数量和维数。本方法核心技术包括:第一、将用户给出的数据库进行预处理,包括缺失处理和数据集合预切割;第二、利用混合范数(包括零范数、1范数和无穷范数)和数据相关性技术,从数据库中抽取有代表性的样本;第三、利用正交化技术选择出最优样本,并根据分类标识补全样本数量为空的类样本。基于上述过程,此方法能大幅减少数据分类的建模时间和内存空间,提高学效率。在给出的清洗效率指标下,我们选择了常用的5类数据分类算法在10种UCI数据库上,开展了数据分类测试,结果表明,学数据库样本越多,清洗效率越高,清洗效率最高可达到140以上。 |
申请公布号 |
CN106055613A |
申请公布日期 |
2016.10.26 |
申请号 |
CN201610356659.X |
申请日期 |
2016.05.26 |
申请人 |
华东理工大学 |
发明人 |
袁玉波;顾依依;阮彤;赵婷婷;邱文强;溥冬梅;高炬;殷亦超 |
分类号 |
G06F17/30(2006.01)I |
主分类号 |
G06F17/30(2006.01)I |
代理机构 |
|
代理人 |
|
主权项 |
一种基于混合范数的数据分类训练数据库清洗方法,其特征在于:对数据分类训练数据库清洗时,进行了以下步骤:步骤1,对输入的数据库进行预处理,包括缺失值、异常值的处理和数据集合预切割;步骤2,利用混合范数从预处理后的数据库中抽取代表性样本;步骤3,利用正交化技术进行样本矫正,选择出最优样本;步骤4,根据分类标识补全样本数量为空的类样本,得到最终结果。 |
地址 |
200237 上海市徐汇区梅陇路130号 |