基于Lagrange函数的最小二乘准则多目标优化方法

摘要

本发明公开了一种基于Lagrange函数的最小二乘准则多目标优化方法，包括：S1、将多目标规划转化为单目标规划；S2、对建立的模型拟合并得到拟合误差；S3、得到最优解模型；S4、将加权因子β介入到目标函数Q(n)中；S5、得到扩展函数；S6、在最优解模型中去掉非负权重；S7、采用最小二乘准则计算最优加权系数。本发明的方法不管系统初始状态如何，系统都可以演化到平衡态；亦即不管优化变量初始值如何，神经网络都将使变量收敛到全局唯一最优解。

主权项

1.一种基于Lagrange函数的最小二乘准则多目标优化方法，其特征在于，包括下述步骤：S1、在凸目标函数和凸约束的情况下，将多目标规划转化为单目标规划；S2、假定|x_i|为观测序列，共有J个数学模型拟合描述，拟合误差e_i为：$e_i=x_i-{\hat{x}}_i=x_i-\underset{j=1}{\Sigma }{w}_j{\hat{x}}_i=\underset{j=1}{\overset{J}{\Sigma }}(x_i-{\hat{x}}_i\left(j\right))=\underset{j=1}{\overset{J}{\Sigma }}{w}_j{e}_i\left(j\right)$式中为第j个模型对x_i的拟合值，e_i(j)为拟合误差，i＝1，2，…，N；S3、取e_i为误差统计量，由矩阵理论，此时最小二乘准则下综合模型权系数约束最小的最优解由以下最优解模型获得：$\left\{\begin{array}{cc}\min & Q=\underset{i=1}{\overset{N}{\Sigma }}{e}_i^2\\ s.t& \underset{j=1}{\overset{n}{\Sigma }}{w}_j=1,w_j>0,j=\mathrm{1,2},···,J\end{array}\right.;$S4、将加权因子β介入到目标函数Q(n)中，其中观测数据n是可变的，变化之后的目标函数为：$Q(n;\beta )=\underset{i=1}{\overset{N}{\Sigma }}\beta (n,i){\left|e\left(i\right)\right|}^2$上式中采用指数加权函数β(n，i)＝λ^n-i(i＝1，…，N)，且满足0＜β(n，i)≤1约束；S5、根据约束最小二乘方法估计是一个约束最佳问题，采用扩展Lagrange函数方法的解决0＜β(n，i)≤1约束问题，其扩展Lagrange函数如下：$L_n(\lambda ,l,z)=\underset{i=1}{\overset{n}{\Sigma }}{\lambda }^{n-i}{\left|e\left(i\right)\right|}^2+\underset{m}{\overset{2}{\Sigma }}{z}_m\left(g_m\right)\left(\lambda \right)+l_m^2$$+\frac{1}{2}c\underset{m}{\overset{2}{\Sigma }}{\left(g_m\left(\lambda \right)\right)+l_m^2)}^2$式中l是辅助变量，z是Lagrange乘子，常数c是补偿参数，λ是遗忘因子；$g_1\left(\lambda \right)=-\lambda \Rightarrow g_1\left(\lambda \right)+l_1^2=0$$g_2\left(\lambda \right)=-\lambda -1\Rightarrow g_2\left(\lambda \right)+l_2^2=0$其中g₁和g₂是约束函数，对g₁求导为-1，对g₂求导为1；S6、把Q(n；β)作为新的目标函数，在步骤S3的最优解模型中去掉非负权重w_j≥0，j＝1，2，…，J，利用Lagrange乘子法求得解析解，最优权向量W^*＝(P^TR^-1P)^-1R^-1P，最小Q值Q^*＝(P^TR^-1P)^-1；S7、采用最小二乘准则计算最优加权系数，并利用神经网络对步骤S3中最优解模型的优化问题进行优化计算。