基于深度脊波神经网络的图像分类方法

摘要

本发明公开了一种基于深度脊波神经网络的图像分类方法，主要解决现有技术基于神经网络的图像分类训练时间长，分类精度不高的问题。其实现步骤为：1.对图像库中的数据选择10％比例作为训练样本，其余作为测试样本；2.建立深度脊波神经网络的网络结构，并将训练样本作为网络的输入；3.分别对深度脊波神经网络中每一层的参数用脊波自编码器进行分层学；4.将分层学的参数结果作为深度脊波神经网络中参数的初始值，对整个网络中的参数利用梯度下降法进行训练，得到训练好的网络；5.将测试样本输入网络，得到每一个测试样本的类标。本发明具有分类精度高，训练速度快的优点，可用于到目标识别、目标分析以及社会活动检测。

主权项

一种基于深度脊波神经网络的图像分类方法，包括如下步骤：1)从图像库中随机选择所有图像样本的10％作为训练图像样本集，其中第n个训练图像样本记为P(n)，n＝1,...,N为训练图像样本的个数，第n个训练图像样本的类标记为L(n)，其余样本作为测试图像样本，Q(m)为第m个测试图像样本，m＝1,...,M，M为测试图像样本的个数；2)对每一个训练图像样本P(n)，按照行优先的规则，重新排列为一个列向量S₁(n)：$S_1\left(n\right)={\left(x_1^1\right(n),x_2^1(n),...,x_i^1(n),...,x_I^1(n\left)\right)}^T,$其中，表示列向量S₁(n)中第i个元素值，i∈I，I为输入样本元素的个数；3)建立四层深度脊波神经网络的结构，其中第一层样本输入层为l₁，有I₁个神经元，第二层特征学习层为l₂，有I₂个神经元，第三层特征学习层为l₃，有I₃个神经元，第四层分类层为l₄；将S₁(n)作为深度脊波神经网络第一层的输入，令I＝I₁；4)建立三层脊波自编码器，用来得到四层深度脊波神经网络的初始化权值。该三层脊波自编码器包括自编码输入层I₁个神经元，自编码隐层I₂个神经元和自编码输出层I₁个神经元；5)将步骤2)中的列向量S₁(n)作为脊波自编码器的输入,得到脊波自编码器的实际输出Z₁(n):$Z_1\left(n\right)={\left(z_1^1\right(n),z_2^1(n),...,z_k^1(n),...,z_{I_1}^1(n\left)\right)}^T,$其中，表示第k个神经元的实际输出：式中ψ_j(·)表示自编码隐层第j个神经元的脊波函数，w_j,i是连接自编码输入层第i个神经元和自编码隐层第j个神经元的权重值，λ_j是自编码隐层第j个神经元的位移参数，u_j是自编码隐层第j个神经元的尺度参数，w_k,j是连接自编码隐层第j个神经元和自编码输出层第k个神经元的权重值，b_k是自编码输出层第k个神经元的阈值，i,k∈I₁，j∈I₂；6)将步骤2)中的列向量S₁(n)作为脊波自编码器的理想输出，建立自编码器损失函数ξ₁(n)，最小化ξ₁(n)并利用梯度下降法，对步骤5)中的参数w_j,i、λ_j、u_j、w_k,j和b_k进行反向调节更新；7)重复步骤5)和步骤6)，直至达到设定的迭代次数，得到更新后的参数值w_j,i、λ_j、u_j、w_k,j和b_k；8)根据步骤7)更新后得到的所述参数w_j,i、λ_j和u_j，计算深度脊波神经网络第二层第j个神经元的值：得到第二层学习到的特征为：$S_2\left(n\right)={\left(x_1^2\right(n),x_2^2(n),...,x_j^2(n),...,x_{I_2}^2(n\left)\right)}^T,j\in I_2;$9)用深度脊波神经网络第二层的特征S₂(n)代替步骤2)中的自编码输入层S₁(n)，令自编码输入层包含I₂个神经元，自编码隐层包含I₃个神经元，自编码输出层包含I₂个神经元，重复步骤5)‑8)，得到深度脊波神经网络第三层学到的特征：$S_3\left(n\right)={\left(x_1^3\right(n),x_2^3(n),...,x_r^3(n),...,x_{I_3}^3(n\left)\right)}^T,r\in I_3;$10)将第三层学到的的特征S₃(n)作为第四层分类层的输入，得到脊波神经网络分类层l₄的类标输出：其中Num为该样本的的类别数，并根据样本的理想输出类标L(n)和得到的输出类标S₄(n)的误差，建立分类器损失函数ξ₂(n)，最小化该分类器损失函数ξ₂(n)并按照梯度下降法，对分类层选择的softmax分类器进行训练，得到分类器的参数θ；11)将步骤4)‑10)得到的深度脊波神经网络的每一层的参数值，作为深度脊波神经网络中参数的初始值，将S₁(n)作为深度脊波神经网络的输入，按照下式对网络进行前向计算，得到深度脊波神经网络中第二层和第三层第j个神经元的输出：$x_j^{l+1}\left(n\right)={\psi }_j^{l+1}\left(\frac{\underset{i\in I_l}{\Sigma }{w}_{j,i}^{l+1}{x}_i^l\left(n\right)-{\lambda }_j^{l+1}}{2^{u_j^{l+1}}}\right),l=1,2;j\in I_{l+1},$其中，当l＝1时表示特征学习层l₂的第j个神经元的输出，当l＝2时表示特征学习层l₃的第j个神经元的输出，式中表示第l层第i个神经元的值，表示第l+1层第j个神经元的值，表示l+1层第j个神经元的脊波函数值，表示连接第l层第i个神经元和第l+1层第j个神经元的权重值，表示第l+1层第j个神经元的位移参数，表示第l+1层第j个神经元的尺度参数；12)将深度脊波神经网络第三层的学到的特征S₃(n)作为softmax分类器的输入，计算得到样本的输出类标S₄(n)，按照梯度下降法，根据输出类标S₄(n)和真实类标L(n)的差异，建立分类器损失函数ξ₂(n)，对深度脊波神经网络中误差进行反向传播，对参数进行更新；13)重复步骤11)‑12)，直到达到设定迭代次数，得到训练好的网络的所有参数值，完成深度脊波神经网络的训练；14)将每一个测试样本Q(m)，按照行优先的规则重新排列为一个列向量根据网络训练好的参数值，按照整个网络前向传播的计算过程，得到测试样本的类标，完成分类。