发明名称 |
一种卷积神经网络优化方法 |
摘要 |
本发明公开了一种卷积神经网络优化方法,在卷积神经网络训练过程中,通过选出效果较差的滤波器组和效果较好的滤波器组,通过把较差滤波器组中的部分系数用较好滤波器组中的部分系数进行替换,从而实现卷积层滤波器之间的参数更新,用修改之后的网络进行训练,训练一定次数后,对比修改后和修改前的网络产生的误差大小,判断先前实现的滤波器参数更新是否有效,从两个网络中进行选择,保留性能好的网络用于后面的训练,通过不断地重复这个过程,最终可以训练出一个性能优异的网络,该网络的特征提取能力比传统的网络要有所提升。 |
申请公布号 |
CN106485324A |
申请公布日期 |
2017.03.08 |
申请号 |
CN201610881810.1 |
申请日期 |
2016.10.09 |
申请人 |
成都快眼科技有限公司 |
发明人 |
李宏亮;陈啸宇;黄超 |
分类号 |
G06N3/08(2006.01)I |
主分类号 |
G06N3/08(2006.01)I |
代理机构 |
成都行之专利代理事务所(普通合伙) 51220 |
代理人 |
冯龙 |
主权项 |
一种卷积神经网络优化方法,其特征在于,所述方法包括:步骤1:构建卷积神经网络,并在卷积神经网络的末端添加用于计算损失函数的损失层;步骤2:构建数据集,数据集包括:训练集、测试集,并设定卷积神经网络参数;步骤3:开始训练卷积神经网络,当训练次数达到预设次数后,暂停训练,把当前的卷积神经网络作为第一卷积神经网络进行存储;步骤4:将卷积神经网络损失层计算得到的损失传递到预设卷积层,然后计算每个滤波器对卷积神经网络损失的贡献度;步骤5:将滤波器对卷积神经网络损失的贡献度,按照从小到大的顺序进行排序,基于排序结果,选取出特征提取效果最优的滤波器和特征提取效果最差的滤波器;步骤6:分别从步骤5中选取的每个滤波器中随机选取出滤波器系数,然后对滤波器系数进行更新;步骤7:修改卷积神经网络每一层的学习率缩放因子,对修改之后的卷积神经网络进行训练,训练过程进行预设次数后暂停,然后存储修改之后的网络为第二卷积神经网络,并分别获得第一卷积神经网络和第二卷积神经网络的损失;步骤8:通过损失比较第一卷积神经网络和第二卷积神经网络的性能,选择出较优的卷积神经网络。 |
地址 |
610000 四川省成都市双流区西南航空港经济开发区公兴街道双兴大道 |