基于同时融合多视角特征及多标签信息的支持向量机分类方法

摘要

本发明实施例公开了一种基于同时融合多视角特征及多标签信息的支持向量机分类方法，包括以下步骤：输入多视角特征训练数据以及每个数据所对应的多标签信息，建立同时融合多视角特征及多标签信息的支持向量机分类器的数学模型，设定各个项的对应权重因子的值；训练和学分类器的各个参数，运用循环迭代算法更新目标优化式的各个参数变量，直到两次迭代的整体目标函数值之差的绝对值小于预设的阈值时停止，并且采用更新计算某个参数时，固定其他参数值的策略；用训练得到的分类器，对实际数据进行多标签分类或预测。本发明用于提供一种技术在支持向量机分类的同时，学得到新的数据空间里的一个统一的数据表达形式，提高了分类器的准确率。

主权项

1.一种基于同时融合多视角特征及多标签信息的支持向量机分类方法，其特征在于，包括以下步骤S10至S30：S10，输入多视角特征训练数据以及每个数据所对应的多标签信息，建立同时融合多视角特征及多标签信息的支持向量机MVMLSVM分类器的数学模型，设定各个项的对应权重因子的值，其具体包括S101至S103，S101，输入给定的多视角特征数据以及每个数据的多标签信息，i∈{1，2，…，n}，v∈{1，2，…，V}，l∈{1，2，…，L}，其中L是标签的种数，d_v是第v个视角特征的维度，表示数据在第l种标签上的类属关系，值为+1表示数据属于第l种标签，-1表示不属于，采用矩阵形式来表达数据和数据所附有的标签信息，分别用X^v，v∈{1，2，…，V}和来表示，其中，的每一列属于L维的标签空间即而的每一行的转置后的列向量表示各个数据在第l种标签上的类属关系，用Y^l表示，S102，在对标签集合中的每一个标签训练一个相应的二分类分类器时，把具有选中的这个标签的数据作为正例样本，没有此标签的样本都作为负例样本，对于标签集中的第l种标签，要训练得到它对应的多视角多标签信息融合的分类器，方法如下：首先将原始数据的多视角特征通过一致性统筹函数进行特征融合，并且引入训练数据的多标签信息作为正则项因子进行调节优化，其中是学习得到的数据在V个视角特征上的一致性表达，d_g是每个数据新的维度，是V个视角特征各自变换到G的投影映射，然后将针对第l种标签学习得到的数据一致性表达形式G作为相应支持向量机的输入，训练分类器，整个过程通过以下整合的目标函数优化求解得到各个参数：${\min }_{G,\left\{P^v\right\},\beta }\gamma \underset{v=1}{\overset{V}{\Sigma }}{\left|\right|G-P^v{X}^v\left|\right|}^2+\lambda \underset{i=1}{\overset{n}{\Sigma }}\underset{j=1}{\overset{n}{\Sigma }}{\beta }_i{\beta }_{j}k(g_i,g_j)$$-\eta \frac{1}{{(n-1)}^2}\underset{v=1}{\overset{V}{\Sigma }}\mathrm{tr}\left(H{\left(P^v{X}^v\right)}^T\left(P^v{X}^v\right)H{Y}^{T}Y\right)$$+\underset{i=1}{\overset{n}{\Sigma }}L(y_i,\underset{j=1}{\overset{n}{\Sigma }}k(g_j,g_i){\beta }_j)$S103，设定对应项的权重因子，γ，λ，η根据实际应用情况设定，预设50，100，50作为默认值；S20，训练和学习分类器的各个参数，运用循环迭代算法更新目标优化式的各个参数变量，直到两次迭代的整体目标函数值之差的绝对值小于预设的阈值时停止，并且采用更新计算某个参数时，固定其他参数值的策略，其中，在一次循环迭代里，又分为以下三个步骤：S201，更新计算每个视角特征对应的投影映射P^v(v＝1，2，…，V)的每一列；$\begin{array}{cc}{p}_k^v=\frac{u_k-P^v{n}_k}{N_{\mathrm{kk}}}+p_k^v& k=\mathrm{1,2},···,d_v\end{array}$其中，N_kk是矩阵的第k行第k列个元素，其中n_k是N的第k列，u_k是矩阵U＝G(X^v)^T的第k列，S202，计算支持向量机分类器的分类系数β；β＝(λI_n+I⁰K)^-1I⁰Y^l其中$I^0=\left[\begin{array}{cc}{I}_{\mathrm{sv}}& 0\\ 0& 0\end{array}\right],$S203，更新计算各个视角特征映射变换后的数据一致性表达形式G的每一列；$\begin{array}{cc}{g}_k^{t+1}=g_k^t-D{\left(g_k^t\right)}^{-1}{▿}_{g_k^t}& k=\mathrm{1,2},···,n\end{array}$其中是对角矩阵，定义如下：$D_{\mathrm{ad}}\left(g_k^t\right)={\delta }_{\mathrm{ad}}((2(\mathrm{\gamma V}+\lambda {\beta }_k^2)+2({(q_k-y_k)}^2+{\beta }_k^2)[k\in n_{\mathrm{sv}}\left]\right)g_k^t$$+{2\left(\mathrm{G\beta }\right){\left(\mathrm{G\beta }\right)}^T{g}_k^t[k\in n_{\mathrm{sv}}]+2{\beta }_k^2{G}_{\mathrm{sv}}{G_{\mathrm{sv}}}^T{g}_k^t)}_a/{\left(g_k^t\right)}_a$$q_i=k_i^T\beta =\underset{j=1}{\overset{n}{\Sigma }}{g}_j^T{g}_i{\beta }_j,$$G_{\mathrm{sv}}{G_{\mathrm{sv}}}^T=\underset{i=1}{\overset{n_{\mathrm{sv}}}{\Sigma }}{g}_i{g}_i^T$定义为：${▿}_{g_k^t}=\gamma \underset{v=1}{\overset{V}{\Sigma }}(2g_k-2P^v{x}_k^v)+\lambda \underset{j=1}{\overset{n}{\Sigma }}2{\beta }_k{\beta }_j{g}_j$$+2\left(\left(\underset{j=1}{\overset{n}{\Sigma }}(q_k-y_k){\beta }_j{g}_j\right)\right[k\in n_{\mathrm{sv}}]+{\beta }_k\underset{i=1}{\overset{n_{\mathrm{sv}}}{\Sigma }}(q_i-y_i)g_i)$整个迭代过程直到两次迭代的整体目标函数值之差的绝对值小于10^-5或最大迭代次数超过100停止，最后得到的每个多视角特征的投影映射矩阵P^v(v＝1，2，…，V)，数据的一致性表达形式G，以及支持向量机的分类系数β就是训练阶段所要得到的基于同时融合多视角特征多标签信息支持向量机分类器MVMLSVM的参数；S30，用训练得到的分类器，对实际数据进行多标签分类或预测，具体包括如下步骤S301至S302，S301，将待分类的数据的每一视角的特征通过对应的投影映射矩阵变换得到新的数据表达得到每个视角变换后的结果后，通过将新的数据空间里的每个视角变换后的结果整合起来得到统一的表达形式G_test，S302，用训练阶段学习得到的参数G计算K_test＝G^TG_test，以及用训练阶段得到的支持向量机的分类系数β计算根据所得结果的正负性，判断待分类数据是否属于分类器对应的标签类，正的值，表示需要判断的待分类数据属于分类器所对应的标签类；负的值，表示需要判断的待分类数据不属于分类器所对应的标签类。