一种多线性大间距的特征提取方法

摘要

本专利提供的是一种多线性大间距的特征提取方法。首先，提取视频流样本的一个周期的步态序列数据，并且表示成张量结构；第二，用多线性主成分分析（MPCA）进行张量数据预处理，使高维的张量数据投影到一个低维的张量结构，去除冗余和噪声信息；第三，优化类间Laplacian散度和类内Laplacian散度之差，使其值最大，通过不断迭代求值，使其解收敛并达到迭代终止条件，得到各个模式下的投影矩阵，通过张量乘法得到一个维数更低、带有监督信息的低维张量；最后，通过基于欧氏距离的最近邻分类器进行分类。本发明所提供的方法较MPCA有更高的识别率，最终降维后的特征也更短一些。

主权项

一种多线性大间距的特征提取方法，其特征是，假设第m个训练样本用N阶张量表示，其中，R代表空间，I_n(n＝1,…,N)为张量的“n‑模式”的维数，那么M个训练样本集合可以表示为它们是张量空间中的张量；将张量空间映射到$R^{P_1}\otimes R^{P_2}\otimes ...\otimes R^{P_N}(P_n<I_n,n=1,...,N),$其中，P_n(n＝1,…,N)表示降维后的张量的“n‑模式”的维数，映射后的张量能捕捉到原始张量数据“变化”最大的方向用Laplacian散度之差来度量，即使类间Laplacian散度与类内Laplacian散度之差最大；具体操作步骤如下：(1)预处理阶段：利用多线性主成分分析MPCA方法对整个张量训练集进行降维处理，得到的特征记为其中，是找到原始张量数据“变化”最大的方向投影后的张量，是寻找到的投影矩阵集合，其中Q_n(n＝1,…,N)表示张量经MPCA降维后的“n‑模式”的维数；T为转置；×₁，×₂，×₃…×_N表示张量与矩阵的1，2，3...N模式的乘积；(2)多线性大间距的投影矩阵初始化阶段：采用全投影的初始化方法，求J^*的特征分解，得到其特征值按照从大到小排列，初始化投影矩阵由J^*的前P_n个大的特征值对应的特征向量组成，$J^{*}={\Phi }_b^{\left(n\right)*}-{\Phi }_w^{\left(n\right)*}={\Phi }_t^{\left(n\right)*}-2{\Phi }_w^{\left(n\right)*}---\left(2\right)$其中，为类间Laplacian散度初始化矩阵，为类内Laplacian散度初始化矩阵，为整体Laplacian散度初始化矩阵；$\begin{array}{c}{\Phi }_t^{\left(n\right)*}=\frac{1}{M}\underset{m=1}{\overset{M}{\Sigma }}(Z_{m\left(n\right)}-{\bar{Z}}_{\left(n\right)})(L\otimes I_{P_n}){(Z_{m\left(n\right)}-{\bar{Z}}_{\left(n\right)})}^T\\ =\frac{1}{2M^2}\underset{m=1}{\overset{M}{\Sigma }}\underset{i=1}{\overset{M}{\Sigma }}(Z_{m\left(n\right)}-Z_{i\left(n\right)})(L\otimes I_{P_n}){(Z_{m\left(n\right)}-Z_{i\left(n\right)})}^T\end{array}---\left(3\right)$$\begin{array}{c}{\Phi }_w^{\left(n\right)*}=\frac{1}{M}\underset{i=1}{\overset{c}{\Sigma }}\underset{j=1}{\overset{M_i}{\Sigma }}(Z_{j\left(n\right)}^{\left(i\right)}-{\bar{Z}}_{\left(n\right)}^{\left(i\right)})(L_w\otimes I_{P_n}){(Z_{j\left(n\right)}^{\left(i\right)}-{\bar{Z}}_{\left(n\right)}^{\left(i\right)})}^T\\ =\frac{1}{M}\underset{i=1}{\overset{c}{\Sigma }}\frac{1}{2M_i}\underset{j=1}{\overset{M_i}{\Sigma }}\underset{k=1}{\overset{M_i}{\Sigma }}(Z_{j\left(n\right)}^{\left(i\right)}-Z_{k\left(n\right)}^{\left(i\right)})(L_w\otimes I_{P_n}){(Z_{j\left(n\right)}^{\left(i\right)}-Z_{k\left(n\right)}^{\left(i\right)})}^T\end{array}---\left(4\right)$${\Phi }_b^{\left(n\right)*}={\Phi }_t^{\left(n\right)*}-{\Phi }_w^{\left(n\right)*}---\left(5\right)$其中，角标(n)表示n模式，表示P_n×P_n大小的单位阵，表示Kronecker积，c表示样本集的类别数，M_i(i＝1,…,c)表示第i类的样本数，Z_m(n)表示第m个样本的n‑模式矩阵，为样本集整体的n‑模式均值矩阵${\bar{Z}}_{\left(n\right)}=\frac{1}{M}\underset{m=1}{\overset{M}{\Sigma }}{Z}_{m\left(n\right)}---\left(6\right)$表示第i类第j个样本的n‑模式矩阵，表示第i类n‑模式的均值矩阵${\bar{Z}}_{\left(n\right)}^{\left(i\right)}=\frac{1}{M_i}\underset{j=1}{\overset{M_i}{\Sigma }}{Z}_{j\left(n\right)}^{\left(i\right)}---\left(7\right)$为了保持张量的内在非线性流形结构，在散度矩阵中引入Laplacian矩阵的高斯相似度矩阵W，它其中的元素w_ij为$w_{ij}=e^{\left(\frac{-\left|\right|z_i-z_j|{|}^2}{2{\sigma }^2}\right)}---\left(8\right)$其中，σ是热核参数，z_i和z_j分别表示经MPCA降维后第i个张量样本和第j个张量样本的向量化结果，当i样本和j样本属于同一个类别，则计算||z_i‑z_j||²；否则将||z_i‑z_j||²置为+∞；D为对角矩阵，对角元素为$d_{ii}=\underset{i=1}{\overset{M}{\Sigma }}{w}_{ij}---\left(9\right)$则Laplacian矩阵LL＝D‑W  (10)第i类中第k个样本和第l个样本的Laplacian相似性为$w_{kl}^{\left(i\right)}=e^{\left(\frac{-\left|\right|z_k-z_l|{|}^2}{2{\sigma }^2}\right)}---\left(11\right)$其中，z_k和z_l分别表示和的向量化结果第i类的相似度矩阵记为W⁽ⁱ⁾，它其中的第k行第l列的元素是D⁽ⁱ⁾是第i类的对角阵，对角元素$d_{kk}=\underset{l=1}{\overset{M_i}{\Sigma }}{w}_{kl}^{\left(i\right)}---\left(12\right)$第i类的Laplacian矩阵$L_w^{\left(i\right)}=D^{\left(i\right)}-W^{\left(i\right)}---\left(13\right)$则Laplacian矩阵L_w$L_w=diag(\frac{L_w^{\left(1\right)}}{M_1},\frac{L_w^{\left(2\right)}}{M_2},...,\frac{L_w^{\left(c\right)}}{M_c})---\left(14\right)$P_n通过约束条件n‑模式截断后整体散度保留下来的前P_n个最大特征值之和与截断前全投影下的特征值之和的比值testQ⁽ⁿ⁾(n＝1,…,N)来确定；${\mathrm{testQ}}^{\left(n\right)}=\frac{\underset{i_{\left(n\right)}=1}{\overset{P_n}{\Sigma }}{\lambda }_{i_{\left(n\right)}}^{\left(n\right)*}}{\underset{i_{\left(n\right)}=1}{\overset{I_n}{\Sigma }}{\lambda }_{i_{\left(n\right)}}^{\left(n\right)*}}---\left(15\right)$其中，是全投影下n‑模式第i_(n)个特征值；为了简化testQ⁽ⁿ⁾(n＝1,…,N)的选取问题，令testQ＝testQ⁽¹⁾＝testQ⁽²⁾＝…＝testQ^(N)；(3)循环迭代求得最优投影矩阵；固定其他所有投影矩阵不变，不断优化类间Laplacian散度与类内Laplacian散度之差J达到最大，直到求得n模式投影矩阵收敛为止；$J={\Phi }_b^{\left(n\right)}-{\Phi }_w^{\left(n\right)}={\Phi }_t^{\left(n\right)}-2{\Phi }_w^{\left(n\right)}---\left(16\right)$其中，$\begin{array}{c}{\Phi }_t^{\left(n\right)}=\frac{1}{M}\underset{m=1}{\overset{M}{\Sigma }}(Z_{m\left(n\right)}-{\bar{Z}}_{\left(n\right)}){\tilde{U}}_{{\Phi }^{\left(n\right)}}(L\otimes I_{P_n}){\tilde{U}}_{{\Phi }^{\left(n\right)}}^T{(Z_{m\left(n\right)}-{\bar{Z}}_{\left(n\right)})}^T\\ =\frac{1}{2M^2}\underset{m=1}{\overset{M}{\Sigma }}\underset{i=1}{\overset{M}{\Sigma }}(Z_{m\left(n\right)}-Z_{i\left(n\right)}){\tilde{U}}_{{\Phi }^{\left(n\right)}}(L\otimes I_{P_n}){\tilde{U}}_{{\Phi }^{\left(n\right)}}^T{(Z_{m\left(n\right)}-Z_{i\left(n\right)})}^T\end{array}---\left(17\right)$$\begin{array}{c}{\Phi }_w^{\left(n\right)}=\frac{1}{M}\underset{i=1}{\overset{c}{\Sigma }}\underset{j=1}{\overset{M_i}{\Sigma }}(Z_{j\left(n\right)}^{\left(i\right)}-{\bar{Z}}_{\left(n\right)}^{\left(i\right)}){\tilde{U}}_{{\Phi }^{\left(n\right)}}(L_w\otimes I_{P_n}){\tilde{U}}_{{\Phi }^{\left(n\right)}}^T{(Z_{j\left(n\right)}^{\left(i\right)}-{\bar{Z}}_{\left(n\right)}^{\left(i\right)})}^T\\ =\frac{1}{M}\underset{i=1}{\overset{c}{\Sigma }}\frac{1}{2M_i}\underset{j=1}{\overset{M_i}{\Sigma }}\underset{k=1}{\overset{M_i}{\Sigma }}(Z_{j\left(n\right)}^{\left(i\right)}-Z_{k\left(n\right)}^{\left(i\right)}){\tilde{U}}_{{\Phi }^{\left(n\right)}}(L_w\otimes I_{P_n}){\tilde{U}}_{{\Phi }^{\left(n\right)}}^T{(Z_{j\left(n\right)}^{\left(i\right)}-Z_{k\left(n\right)}^{\left(i\right)})}^T\end{array}---\left(18\right)$${\tilde{U}}_{{\Phi }^{\left(n\right)}}={\tilde{U}}^{(n+1)}\otimes {\tilde{U}}^{(n+2)}\otimes ...\otimes {\tilde{U}}^{\left(N\right)}\otimes {\tilde{U}}^{\left(1\right)}\otimes {\tilde{U}}^{\left(2\right)}\otimes ...\otimes {\tilde{U}}^{(n-1)}---\left(19\right)$迭代终止条件：保证迭代前后两次的每个模式(n＝1,…,N)的投影矩阵ε是设定阈值，表示第t次迭代n‑模式的投影矩阵(4)计算投影后的张量：(5)计算待测试样本投影后张量和训练样本投影后形成新的训练集合的欧氏距离Dis，采用最近邻分类器测试识别；若则属于所在的类别，其中，|| ||_F表示F范数；表示训练样本集经式(20)得到的张量特征，对应的最终的张量特征。