自适应多标签预测方法

摘要

本发明公开了一种自适应多标签预测方法，其特征是按如下步骤进行：1、获得初始化示例集；2、获得初始化示例集中的领袖示例、局外示例和选民示例；3、获得选民示例集的所属聚类；4、采用支持向量机对预测示例进行粗分类；5、对预测示例进行多标签预测。本发明能准确地对网络信息加上标签，提高多标签预测的准确性、普适性、可解释性以及可移转性，从而实现大数据环境下智能信息分类和处理。

主权项

一种自适应多标签预测方法，其特征是按如下步骤进行：步骤1：获得初始化示例集D：步骤1.1、由num′个已知对象建立原始示例集D′＝{inst′₁,inst′₂,…,inst′_a,…,inst′_num′}，inst′_a表示第a个已知对象所对应的原始示例；1≤a≤num′；并有inst′_a＝{attr′_a；lab′_a}；attr′_a表示所述第a个已知对象特征的属性集；lab′_a表示所述第a个已知对象语义的标签集；并有attr′_a＝{attr′_a,1,attr′_a,2,…,attr′_a,n}；attr′_a,n表示第a个已知对象的第n个属性；n为第a个已知对象的属性数；lab′_a＝{lab′_a,1,lab′_a,2,…,lab′_a,x,…,lab′_a,m}；lab′_a,x表示第a个已知对象的第x个标签；m为第a个已知对象的标签数；1≤x≤m；并有：lab′_a,x＝1表示第a个已知对象语义符合第x个标签；lab′_a,x＝0表示第a个已知对象语义不符合第x个标签；步骤1.2、对所述原始示例集D′中的num′个已知对象特征的属性集{attr′₁,attr′₂,…,attr′_a,…,attr′_num′}分别进行归一化处理，获得归一化处理后的num′个已知对象特征的属性集{attr″₁，attr″₂,…,attr″_a,…,attr″_num′}；当所述归一化后的第a个已知对象特征的属性集arrt_a″对应的m个标签值均为0时，删除所述归一化后的第a个已知对象所属的原始示例；从而获得num个示例构成的初始化示例集D＝{inst₁,inst₂,…,inst_i,…,inst_num}；inst_i表示初始化后的第i个已知对象所对应的示例；并有inst_i＝{attr_i；lab_i}；attr_i表示初始化后的第i个示例特征的属性集；lab_i表示初始化后的所述第i个示例语义的标签集；1≤i≤num；步骤2：求解所述初始化示例集D中各示例的群聚度，从而确定初始化示例集D中的领袖示例、局外示例和选民示例：步骤2.1、将所述初始化示例集D中num个示例中的每个示例的m个标签分别作为m维坐标，从而获得第i个示例inst_i与第k个示例inst_k标签的欧式距离d_ik；1≤k≤num且k≠i；步骤2.2、定义迭代次数γ；并初始化γ＝1；定义所述第i个示例inst_i的所属聚类为clu_i；步骤2.3、利用式(1)获得第γ次迭代的第i个示例inst_i的内聚合度从而获得第γ次迭代的num个示例的内聚合度并将最大的内聚合度记为${\rho }_i^{\left(\gamma \right)}=\underset{k=1}{\overset{num}{\Sigma }}f(d_{ik}-d_c^{\left(\gamma \right)})---\left(1\right)$式(1)中，为第γ次迭代的阈值；当$d_{ik}\le d_c^{\left(\gamma \right)}$时，$f(d_{ik}-d_c^{\left(\gamma \right)})=1;$当$d_{ik}>d_c^{\left(\gamma \right)}$时，$f(d_{ik}-d_c^{\left(\gamma \right)})=0;$步骤2.4、利用式(2)或式(3)获得第γ次迭代的第i个示例inst_i的差异度从而获得第γ次迭代的num个示例的差异度${\delta }^{\left(\gamma \right)}=\{{\delta }_1^{\left(\gamma \right)},{\delta }_2^{\left(\gamma \right)},...,{\delta }_i^{\left(\gamma \right)},...,{\delta }_{num}^{\left(\gamma \right)}\}:$${\delta }_i^{\left(\gamma \right)}=\underset{k=1}{\overset{num}{\Sigma }}max\left(d_{ik}\right),$当${\rho }_i^{\left(\gamma \right)}={\rho }_{\max }^{\left(\gamma \right)}---\left(2\right)$当${\rho }_i^{\left(\gamma \right)}\ne {\rho }_{\max }^{\left(\gamma \right)}---\left(3\right)$步骤2.5、对所述第γ次迭代的num个示例的差异度δ^(γ)进行归一化处理，获得归一化后的差异度${\delta }^{\prime \left(\gamma \right)}=\{{\delta }_1^{\prime \left(\gamma \right)},{\delta }_2^{\prime \left(\gamma \right)},...,{\delta }_i^{\prime \left(\gamma \right)},...,{\delta }_{num}^{\prime \left(\gamma \right)}\};$步骤2.6、利用式(4)获得第γ次迭代的第i个示例inst_i的群聚度从而获得第γ次迭代的num个示例的群聚度${\mathrm{sco}}^{\left(\gamma \right)}=\{{\mathrm{sco}}_1^{\left(\gamma \right)},{\mathrm{sco}}_2^{\left(\gamma \right)},...,{\mathrm{sco}}_i^{\left(\gamma \right)}...,{\mathrm{sco}}_{num}^{\left(\gamma \right)}\}:$${\mathrm{sco}}_i^{\left(\gamma \right)}={\rho }_i^{\left(\gamma \right)}\times {\delta }_i^{\prime \left(\gamma \right)}---\left(4\right)$步骤2.7、对所述第γ次迭代的num个示例的群聚度sco^(γ)进行降序排列，获得群聚度序列并令与所述群聚度序列sco′^(γ)相对应的内聚合度为${\rho }^{\left(\gamma \right)}=\{{\rho }_1^{\prime \left(\gamma \right)},{\rho }_2^{\prime \left(\gamma \right)},...,{\rho }_t^{\prime \left(\gamma \right)},...,{\rho }_{num}^{\prime \left(\gamma \right)}\};$表示当${\mathrm{sco}}_i^{\left(\gamma \right)}={\mathrm{sco}}_t^{\prime \left(\gamma \right)}$时的第γ次迭代的第i个示例inst_i的内聚合度；1≤t≤num；步骤2.8、初始化t＝1；步骤2.9、判断且是否成立，若成立，则第γ次迭代的阈值为有效值，并记录t后，执行步骤2.10；否则，判断是否成立，若成立，则将t+1赋值给t，并重复执行步骤2.9；否则，修改阈值将γ+1赋值给γ，并返回执行步骤2.3；步骤2.10、若第γ次迭代的第i个示例inst_i的内聚合度是否满足若满足，则所述第i个示例inst_i为局外示例，且令所述第i个示例inst_i的所属聚类clu_i＝‑1；否则，判断是否成立，若成立，则第i个示例inst_i为领袖示例，且令clu_i＝i，否则，第i个示例inst_i为选民示例；步骤2.11、统计所述领袖示例的个数和所述选民示例的个数，并分别记为N和M；步骤2.12、记N个领袖示例集为$D^{\left(l\right)}=\{{\mathrm{inst}}_1^{\left(l\right)},{\mathrm{inst}}_2^{\left(l\right)},...,{\mathrm{inst}}_{\alpha }^{\left(l\right)},...,{\mathrm{inst}}_N^{\left(l\right)}\},$1≤α≤N；则与所述N个领袖示例集D^(l)相对应的内聚合度为表示第α个领袖示例的内聚合度；与所述N个领袖示例集D^(l)相对应的标签集为${\mathrm{lab}}^{\left(l\right)}=\{{\mathrm{lab}}_1^{\left(l\right)},{\mathrm{lab}}_2^{\left(l\right)},...,{\mathrm{lab}}_{\alpha }^{\left(l\right)},...,{\mathrm{lab}}_N^{\left(l\right)}\};$表示第α个领袖示例的标签集；与所述N个领袖示例集D^(l)相对应的所属聚类为${\mathrm{clu}}^{\left(l\right)}=\{{\mathrm{clu}}_1^{\left(l\right)},{\mathrm{clu}}_2^{\left(l\right)},...,{\mathrm{clu}}_{\alpha }^{\left(l\right)},...,{\mathrm{clu}}_N^{\left(l\right)}\};$表示第α个领袖示例的所属聚类；步骤2.13、记M个选民示例集为$D^{\left(v\right)}=\{{\mathrm{inst}}_1^{\left(v\right)},{\mathrm{inst}}_2^{\left(v\right)},...,{\mathrm{inst}}_{\beta }^{\left(v\right)},...,{\mathrm{inst}}_M^{\left(v\right)}\},$1≤β≤M；则与所述M个选民示例集D^(v)相对应的内聚合度为${\rho }^{\left(v\right)\left(\gamma \right)}=\{{\rho }_1^{\left(v\right)\left(\gamma \right)},{\rho }_2^{\left(v\right)\left(\gamma \right)},...,{\rho }_{\beta }^{\left(v\right)\left(\gamma \right)},...,{\rho }_M^{\left(v\right)\left(\gamma \right)}\};$表示第β个选民示例的内聚合度；与所述M个选民示例集D^(v)相对应的标签集为${\mathrm{lab}}^{\left(v\right)}=\{{\mathrm{lab}}_1^{\left(v\right)},{\mathrm{lab}}_2^{\left(v\right)},...,{\mathrm{lab}}_{\beta }^{\left(v\right)},...,{\mathrm{lab}}_M^{\left(v\right)}\};$表示第β个选民示例的标签集；与所述M个选民示例集D^(v)相对应的所属聚类为${\mathrm{clu}}^{\left(v\right)}=\{{\mathrm{clu}}_1^{\left(v\right)},{\mathrm{clu}}_2^{\left(v\right)},...,{\mathrm{clu}}_{\beta }^{\left(v\right)},\mathrm{...},{\mathrm{clu}}_M^{\left(u\right)}\};$表示第β个选民示例的所属聚类；步骤3：获得所述M个选民示例集D^(v)的所属聚类clu^(v)：步骤3.1、定义迭代次数χ；并初始化χ＝1；并定义第z个中转示例inst_z；z≥0；并初始化α＝1、β＝1、z＝0；步骤3.2、从所述N个领袖示例集D^(l)中选取任第α个领袖示例获得所述第α个领袖示例为与第χ次迭代的第β个选民示例标签的欧式距离步骤3.3、若时，则将β+1赋值给β，并判断β≤M是否成立，若成立，重复执行步骤3.3；否则执行步骤3.5；若时，判断第χ次迭代的第β个选民示例的所属聚类是否为空，若为空，则执行步骤3.4；否则，表示第χ次迭代的第β个选民示例的所属聚类的值为第χ次迭代现有的领袖示例的下标，记为执行步骤3.11；步骤3.4、将第α个领袖示例的下标α^(l)赋值给并将z+1赋值给z，令表示将第χ次迭代的第β个选民示例中的下标β_χ、标签集内聚合度和所属聚类均赋值给第χ次迭代的第z个中转示例的下标、标签集、内聚合度和所属聚类；并将β+1赋值给β；判断β≤M是否成立，若成立，则执行步骤3.3；否则执行步骤3.5；步骤3.5、若z≤0，则执行步骤3.14；否则，将χ+1赋值给χ，并将依次赋值给令β＝1；并获得所述第χ次迭代的第β个选民示例与第χ次迭代第z个中转示例标签的欧式距离并将z‑1赋值给z；步骤3.6、若时，则将β+1赋值给β，并判断β≤M是否成立，若成立，重复执行步骤3.6；否则执行步骤3.5；若时，判断第χ次迭代的第β个选民示例的所属聚类是否为空，若为空，则执行步骤3.7；否则，表示第χ次迭代的第β个选民示例的所属聚类的值为第χ次迭代现有的领袖示例的下标，记为执行步骤3.8；步骤3.7、将第χ次迭代的第z个中转示例的下标z^(χ)赋值给并将z+1赋值给z，令并将β+1赋值给β；并判断β≤M是否成立，若成立，则重复执行步骤3.6；否则执行步骤3.5；步骤3.8、利用式(5)获得第χ次迭代的第β选民示例与所述第χ次迭代现有领袖示例的影响力${\mathrm{gra}}_{{\beta }_{\chi }ϵ}^{\left(v\right)\left({\beta }_{\chi }\right)}=\frac{{\rho }_{{\beta }_{\chi }}^{\left(v\right)}\times {\rho }_{ϵ}^{\left({\beta }_{\chi }\right)}}{d_{{\beta }_{\chi }ϵ}^{\left(v\right)\left({\beta }_{\chi }\right)}}---\left(5\right)$步骤3.9、利用式(6)获得第χ次迭代的第β个选民示例与第χ次迭代的第z个中转示例的影响力${\mathrm{gra}}_{{\beta }_{\chi }z}^{\left(v\right)\left(\chi \right)}=\frac{{\rho }_{{\beta }_{\chi }}^{\left(v\right)}\times {\rho }_z^{\left(\chi \right)}}{d_{{\beta }_{\chi }z}^{\left(v\right)\left(\chi \right)}}---\left(6\right)$步骤3.10、若则将β+1赋值给β，并执行步骤3.6；否则，令并将z+1赋值给z，令并将β+1赋值给β，并判断β≤M是否成立，若成立，则执行步骤3.6；否则执行步骤3.5；步骤3.11、利用式(7)获得第χ次迭代的第β选民示例与所述第χ次迭代现有领袖示例的影响力${\mathrm{gra}}_{{\beta }_{\chi }ϵ}^{\left(v\right)\left({\beta }_{\chi }\right)}=\frac{{\rho }_{{\beta }_{\chi }}^{\left(v\right)}\times {\rho }_{ϵ}^{\left({\beta }_{\chi }\right)}}{d_{{\beta }_{\chi }ϵ}^{\left(v\right)\left({\beta }_{\chi }\right)}}---\left(7\right)$步骤3.12、利用式(8)获得第χ次迭代的第β个选民示例与第α个领袖示例的影响力${\mathrm{gra}}_{{\beta }_{\chi }\alpha }^{\left(v\right)\left(l\right)}=\frac{{\rho }_{{\beta }_{\chi }}^{\left(v\right)}\times {\rho }_{\alpha }^{\left(l\right)}}{d_{{\beta }_{\chi }\alpha }^{\left(v\right)\left(l\right)}}---\left(8\right)$步骤3.13、若则将β+1赋值给β，并执行步骤3.3；否则，将第α个领袖示例的下标α^(l)赋值给并将z+1赋值给z，令并将β+1赋值给β，并判断β≤M是否成立，若成立，则执行步骤3.3；否则执行步骤3.5；步骤3.14、将α+1赋值给α；并判断α≤N是否成立，若成立，令β＝1，并执行步骤3.2；否则执行步骤3.15；步骤3.15、将第χ次迭代时所述M个选民示例集D^(v)相对应的所属聚类依次赋值给所述M个选民示例集D^(v)相对应的所属聚类$\{{\mathrm{clu}}_1^{\left(v\right)},{\mathrm{clu}}_2^{\left(v\right)},...,{\mathrm{clu}}_{\beta }^{\left(v\right)},\mathrm{...},{\mathrm{clu}}_M^{\left(v\right)}\};$步骤3.16、判断是否还存在所属聚类为空的选民示例，若存在，则设置所属聚类为空的选民示例的所属聚类的值为‑1；步骤4；采用支持向量机对预测示例进行粗分类：4.1、建立由nump个预测示例组成的预测示例集P＝{instp₁,instp₂,…,instp_j,…,instp_nump}；instp_j表示第j个预测示例；1≤j≤nump；并有instp_j＝{attrp_j；labp_j}；arrtp_j表示第j个预测示例instp_j的属性集；labp_j表示第j个预测示例instp_j的标签集；记所述第j个预测示例instp_j的所属聚类为clup_j；4.2、以所述初始化示例集D相对应的num个所属聚类{clu₁,clu₂,…,clu_i,…,clu_num}作为训练标签，以所述初始化示例集D中的num个已知对象的属性集{attr₁,attr₂…,attr_i,…,attr_num}作为训练样本；以所述预测示例集P的nump个属性集{attrp₁,attrp₂…,attrp_j,…,attrp_nump}作为预测样本，并用支持向量机方法进行训练，获得nump个预测标签，将所述nump个预测标签分别赋值给所述预测示例集P的nump个所属聚类；从而完成对所述预测示例集P的粗分类；步骤5、对nump个预测示例进行多标签预测；步骤5.1、将所述初始化示例集D中num个示例和所述预测示例集P中nump个示例整合为第ψ次更新示例集$D_{new}^{\left(\psi \right)}=\{{\mathrm{inst}}_1,{\mathrm{inst}}_2,...,{\mathrm{inst}}_i,...,{\mathrm{inst}}_{num};{\mathrm{instp}}_1,{\mathrm{instp}}_2,...,{\mathrm{instp}}_j,...,{\mathrm{instp}}_{nump}\},$记为$D_{new}^{\left(\psi \right)}=\{{\mathrm{inst}}_1^{\left(\psi \right)},{\mathrm{inst}}_2^{\left(\psi \right)},...,{\mathrm{inst}}_{\Omega }^{\left(\psi \right)},...,{\mathrm{inst}}_{num+nump}^{\left(\psi \right)}\};$表示第Ω个第ψ次更新示例；1≤Ω≤num+nump；步骤5.2、所述第ψ次更新示例集中num+nump个更新示例中的的每个示例的n个属性分别作为n维坐标，从而获得第Ω个第ψ次更新示例与第ξ个第ψ次更新示例属性的欧式距离1≤ξ≤num+nump且ξ≠Ω；步骤5.3、利用式(9)获得第Ω个第ψ次更新示例的属性聚合度从而获得第ψ次更新的num+nump个更新示例的属性聚合度${\Gamma }_{\Omega }^{\left(\psi \right)}=\underset{\xi =1}{\overset{num+nump}{\Sigma }}f(d_{\Omega \xi }^{\left(\psi \right)}-d_c^{\left(\gamma \right)})---\left(9\right)$当$d_{\Omega \xi }^{\left(\psi \right)}\le d_c^{\left(\gamma \right)}$时，$f(d_{\Omega \xi }^{\left(\psi \right)}-d_c^{\left(\gamma \right)})=1;$当$d_{\Omega \xi }^{\left(\psi \right)}>d_c^{\left(\gamma \right)}$时，$f(d_{\Omega \xi }^{\left(\psi \right)}-d_c^{\left(\gamma \right)})=0;$步骤5.4、初始化j＝1；步骤5.5、若所述预测示例集P中第j个预测示例instp_j的所属聚类为clup_j与所述初始化示例集D中第i个已知示例inst_i的所属聚类为clu_i相同；则利用式(10)获得第i个已知示例inst_i与第j个预测示例instp_j的影响力gra_ij：${\mathrm{gra}}_{ij}=\frac{{\Gamma }_i\times {\Gamma }_j}{d_{ij}}---\left(10\right)$式(10)中，Γ_i表示已知示例inst_i在第ψ次更新示例集所对应更新示例的属性聚合度，Γ_j表示预测示例instp_j在第ψ次更新示例集所对应更新示例的属性聚合度，d_ij表示所述第i个已知示例inst_i与第j个预测示例instp_j属性的欧式距离；步骤5.6、重复步骤5.5，从而获得第j个预测示例instp_j与所述初始化示例集D其他已知示例的影响力，并记录最大影响力gra_max；步骤5.7、若gra_ij＝gra_max，则令labp_j＝lab_i，表示所述预测示例集P的标签集labp_j中的各个标签和所述初始化示例集D的标签集lab_i中的各个标签相同，从而获得第j个多标签预测的预测示例；步骤5.8、将j+1赋值给j，并判断j≤nump是否成立，若成立，则返回步骤5.5执行，否则，表示完成对nump个预测示例的多标签预测；