发明名称 一种增强深度学算法鲁棒性的优化方法和系统
摘要 本发明提供一种增强深度学算法鲁棒性的优化方法和系统。所述优化方法包括:根据所述样本数据和向量化结果,得到测试样本与训练样本的概率密度比值,通过卷积层参数和高斯核宽度对所述概率密度比值进行建模得到建模后比值的估计值;根据建模后比值的估计值得到测试样本的概率密度的估计值;结合卷积结果以及基于KLIEP优化算法,对测试样本的概率密度和测试样本的概率密度的估计值之间的KL距离进行最小化,得到具有卷积层参数和高斯核宽度的最小化的KL距离;对最小化的KL距离的卷积层参数和高斯核宽度基于KLIEP算法进行反向求导得到更新后卷积层参数,以及进行交叉验证得到优化后的高斯核宽度并得到优化后的网络输出。
申请公布号 CN106203628A 申请公布日期 2016.12.07
申请号 CN201610542650.8 申请日期 2016.07.11
申请人 深圳先进技术研究院 发明人 卢哲;王书强;施昌宏;申妍燕
分类号 G06N3/08(2006.01)I 主分类号 G06N3/08(2006.01)I
代理机构 深圳市科进知识产权代理事务所(普通合伙) 44316 代理人 郝明琴
主权项 一种增强深度学习算法鲁棒性的优化方法,其特征在于:所述优化方法包括以下步骤:根据预设的卷积核维度对样本数据的卷积核进行特征提取,得到卷积结果;对所述卷积结果进行池化运算,得到批量池化结果;对批量池化结果进行向量化处理,得到向量化结果;根据所述样本数据和向量化结果,得到测试样本与训练样本的概率密度比值,通过卷积层参数和高斯核宽度对所述概率密度比值进行建模得到建模后比值的估计值;根据建模后比值的估计值得到测试样本的概率密度的估计值;结合卷积结果以及基于KLIEP优化算法,对测试样本的概率密度和测试样本的概率密度的估计值之间的KL距离进行最小化,得到具有卷积层参数和高斯核宽度的最小化的KL距离;对最小化的KL距离的卷积层参数和高斯核宽度基于KLIEP算法进行反向求导得到更新后卷积层参数,以及进行交叉验证得到优化后的高斯核宽度;根据更新后卷积层参数和优化后的高斯核宽度,得到优化后的网络输出。
地址 518055 广东省深圳市南山区西丽大学城学苑大道1068号