一种基于归一化最小均方自适应滤波的自适应学率小波神经网络控制方法

摘要

本发明涉及小波神经网络优化技术领域，特别涉及一种基于归一化最小均方自适应滤波的自适应学率小波神经网络控制方法。本发明包括:建立控制系统模型；将小波网络的所有权值按层进行单位化；小波神经元权值优化；求解误差信号和训练代价；采用阶梯函数对活化函数的导函数分段处理；制定拟合导函数的模糊规则；确定隶属函数；确定每个模糊规则在导函数值中所占的比重；输出模糊系统、线性化显示活化函数；确定各神经元的诱导局部域及神经元输出；求解各个局部梯度函数；输出层自适应调整学率；确定输出层学率的范围；隐层的学率调节；训练神经元突触权值；输出跟踪控制信号；完成闭环反馈控制。本发明能够加快收敛速度，减小计算复杂度。

主权项

一种基于归一化最小均方自适应滤波的自适应学习率小波神经网络控制方法,其特征在于,包括如下步骤:(1)建立控制系统模型:采用小波网络对增强型PID控制器进行参数整定，令小波网络为MIMO的多层反馈网结构，各神经元函数为活化函数，神经网络的状态空间为：$\left\{\begin{array}{c}{W}_k=W_{k-1}+{\phi }_k\\ Z_k=\psi (W_k,U_k),\end{array}\right.$其中W_k为权值空间，U_k为网络输入，Z_k为网络输出，φ_k为权值更新函数，ψ(W_k,U_k)为参数化的非线性函数，小波网络的权值空间为W_k，将权值空间中的每个权值生成[‑1,1]区间上均匀分布的随机数；(2)取[‑1,1]区间上均匀分布的随机数为权值初始值，并将小波网络的所有权值按层进行单位化；(3)小波神经元权值优化：以小波函数为激励函数的神经元为中心，将前后两个网络层中的权值分别与小波函数类型、神经元个数进行关联，设第J层中的激励函数为小波函数，I、K分别为J层前后的两层，W_LM、W_MN为单位化后三层间的两个权值矩阵，则将小波函数类型和神经元个数与其关联的表达式为：$W_{\mathrm{IJ}}=K_j·W_{\mathrm{IJ}}\sqrt[J]{I}$$W_{\mathrm{JK}}=K_J·W_{\mathrm{JK}}\sqrt[K]{J},$其中K_J为常值；(4)引入训练样本集{x(n),norm(n)}：依次输入向量x(1)，x(2)……x(n)，记录网络输出z(1)，z(2)……z(n)，求解误差信号e(n)和训练代价ε(n)：e(n)＝norm(n)‑z(n)$ϵ\left(n\right)=\frac{1}{2}{e}^2\left(n\right)$(5)采用阶梯函数对活化函数的导函数分段处理：将函数分为M段，对活化函数进行拟合，活化函数的每段的斜率对应导数的函数值；(6)制定拟合导函数的模糊规则：T‑S模型的输入变量：$x=[x_1,x_2]\Rightarrow \left\{\begin{array}{c}{x}_1=x\left(n\right)\\ x_2=x\left(n\right)-b^m\end{array}\right.$输出量为导函数值k(n)，其模糊规则形式为：$R^i:\mathrm{if}{x}_1\mathrm{is}{A}_1^i\mathrm{and}{x}_2\mathrm{is}{A}_2^i,\mathrm{then}{k}_i=p_i{x}_1+q_i{x}_2+r_i(i=\mathrm{1,2},...,c),$其中和表示第i条规则中的模糊集合，b^m代表第m段(m＝1,2,...,M)的左边界，p_i、q_i和r_i是模糊集合的常数；(7)确定隶属函数：采用高斯型函数作为隶属函数，各输入变量x_j的隶属度为：$\begin{array}{cc}{\mu }_{A_j^i}\left(x_j\right)=\exp (-{\left(\frac{x_j-c_j^i}{{\sigma }_j^i}\right)}^2)& j=\mathrm{1,2,3};i=\mathrm{1,2},...,M\end{array}$式中和分别为隶属度函数的中心和宽度；(8)确定每个模糊规则在导函数值中所占的比重：每条模糊规则对于输入量x＝[x₁,x₂]的适用度μ_i及其激活度为：${\mu }_i=\underset{j=1}{\overset{3}{\Pi }}{\mu }_{A_j^i}\left(x_j\right)$${\hat{\mu }}_i=\frac{{\mu }_i}{\underset{i=1}{\overset{c}{\Sigma }}{\mu }_i};$(9)输出T‑S模糊系统、线性化显示活化函数：活化函数的线性形式：$s\left(v\left(n\right)\right)=\left\{\begin{array}{cc}a,& v\left(n\right)>{\theta }_1\\ k\left(n\right)v\left(n\right)+d\left(n\right),& {\theta }_2<v\left(n\right)<{\theta }_1\\ b,& v\left(n\right)<{\theta }_2\end{array}\right.,$s(x)为线性形式的活化函数，a和b分别为函数的左右边界，θ₁和θ₂分别为边界的阈值，k(n)和d(n)为线性区域系数，λ为常值系数；(10)确定各神经元的诱导局部域及神经元输出：诱导局部域与神经元j的输出信号分别为：$v_j\left(n\right)=\underset{i=1}{\overset{I}{\Sigma }}{w}_{\mathrm{ij}}{x}_i\left(n\right)=X_i^T\left(n\right)W_{\mathrm{ij}}\left(n\right)$其中v_j(n)为诱导局部域，w_ij为权值，x_i(n)为上层神经元输出，W_ij和X_i(n)分别为w_ij和x_i(n)构成的向量，I为上层神经元总数，为j层的活化函数；(11)求解各个局部梯度函数δ_j(n)，局部梯度δ_j(n)为：步骤(9)的活化函数线性化后，函数δ_jL(n)的线性化表示为：(12)输出层自适应调整学习率：自适应学习率为：$\begin{array}{c}{\mu }_k(n+1)=g(x_1\left(n\right),x_2\left(n\right){...x}_J\left(n\right),k_k\left(n\right))\\ =1/[k_k^2\left(n\right)(x_1^2\left(n\right)+x_2^2\left(n\right)+...+x_j^2\left(n\right))+{\sigma }_v^2],\end{array}$其中k_k(n)＝s′_k(v_k(n))＝常数c_k，σ_v(0＜σ_v＜1)；(13)确定输出层学习率的范围：阈值：${\mu }_k(n+1)=\left\{\begin{array}{cc}{\mu }_{\max }& {\mu }_k>{\mu }_{\max }\\ g(x_1\left(n\right){,x}_2\left(n\right)...x_J\left(n\right),k_k\left(n\right))& {\mu }_{\min }<{\mu }_k<{\mu }_{\max }\\ {\mu }_{\min }& {\mu }_k<{\mu }_{\min }\end{array}\right.;$(14)隐层的学习率调节：对隐层的每个神经元均采用相同的学习率：${\mu }_j(n+1)=\frac{1}{k}\underset{k=1}{\overset{K}{\Sigma }}{\mu }_k\left(n\right),$其中μ_j表示隐层第j个神经元的学习率，K为输出层神经元个数；(15)训练神经元突触权值：引入步骤(12)和步骤(14)的自适应学习率，局部梯度采用非线性的δ(n)：w(n+1)＝w(n)+Δw(n)Δw(n)＝μ(n)δ(n)x(n)；(16)循环次数加1，返回步骤(10)，直至满足停止准则，输出跟踪控制信号；(17)将控制信号输入执行机构并与系统进行计算融合，输出被控参数值，与预期量进行比较，完成闭环反馈控制。