发明名称 一种基于误差反传梯度下降的粒子群优化方法
摘要 本发明提供了一种基于误差反传梯度下降的粒子群优化方法,本发明在传统粒子群算法设计的基础上,提出了一种ICMIC混沌粒子群(ICMICPSO)方法,将ICMICPSO与梯度下降法相结合,形成混合ICMICPSO-BP算法训练FNNs。本发明改进算法设计,在粒子群搜索控制过程中,有效避免了对噪声数据和初始值数据非常敏感,极易陷入局部收敛的缺陷,提高算法的控制性能,该方法比原方法在相同的运行时间下具有更快的收敛速度和搜索性能,提高收敛速度,尤其是后期的搜索效率。
申请公布号 CN106203615A 申请公布日期 2016.12.07
申请号 CN201510216115.9 申请日期 2015.05.01
申请人 郑州大学 发明人 马建红;张晗;何保锋;郭红艳;谷保平;卫权岗
分类号 G06N3/02(2006.01)I 主分类号 G06N3/02(2006.01)I
代理机构 代理人
主权项 一种基于误差反传梯度下降的粒子群优化方法,提出了一种ICMIC混沌粒子群(ICMICPSO)方法,将ICMICPSO与梯度下降法相结合,形成混合ICMICPSO‑BP算法训练FNNs,假设最优移动概率为<img file="dest_path_918463dest_path_image001.GIF" wi="82" he="42" />,移动步长为<i>S</i>,计算得到改进的粒子群优化算法第i粒子在<img file="dest_path_80454dest_path_image002.GIF" wi="68" he="37" />时刻的位置为:<img file="dest_path_407530dest_path_image003.GIF" wi="361" he="52" />;基于误差反传的梯度下降(BP)方法训练,得到粒子的均方误差函数计算为:<img file="dest_path_878832dest_path_image004.GIF" wi="326" he="67" />;PSO算法在<i>D</i>维空间中进行搜索,由<i>m</i>个粒子构成一个种群,则第<i>i</i>个粒子的当前位置可以表示为向量<img file="dest_path_25779dest_path_image005.GIF" wi="227" he="25" />,其速度可以记为向量<img file="dest_path_991461dest_path_image006.GIF" wi="141" he="25" />,考虑全局优化问题<img file="dest_path_173044dest_path_image007.GIF" wi="90" he="30" />,通过误差反传梯度下降进行BP神经网络训练,得到粒子更新公式如下:<img file="dest_path_316711dest_path_image008.GIF" wi="491" he="102" />;在迭代搜索过程中,粒子根据个体最优和全局最优来更新自己的速度和位置,并计算各粒子权值:<img file="dest_path_216534dest_path_image009.GIF" wi="299" he="99" />;改进的误差反传梯度下降粒子群控制系统PSO算法更新公式为:<img file="dest_path_782645dest_path_image010.GIF" wi="406" he="118" />,采用动态惯性权重的粒子群优化算法,实现了基于误差反传的神经网络粒子群控制系统设计。
地址 450001 河南省郑州市高新区科学大道100号郑州大学新校区