一种实现基于单源信息融合的组合分类器的系统及方法

摘要

一种实现基于单源信息融合的组合分类器的系统及方法，包括定义了基于特征选择的组合分类器设计模型，方法通过引入性能优化策略，实现了分类器间串并联方式的灵活搭配组合，通过定义分类器间相似性的度量标准，充分挖掘不同分类器的潜在能力，形成优势互补，将组合分类器的整体性能发挥到最大效能，此外，为了提高组合分类器的在线分类处理能力，引入效率优先策略，通过对组合分类器的每一级分别实施特征选择，使之建立的二元分类器分类正确率最高且输入特征子集规模最小，实现效率与效果的最佳折衷，上述策略的应用使整个方法更加系统、全面，加之整个方法基于领域无关的设计理念，适用范围更加广泛，体现了方法极大的健壮性和良好的可扩展性。

主权项

一种实现基于单源信息融合的组合分类器的方法，该组合分类器适用于解决故障诊断中的分类器设计，其特征是所述方法包括建立基于特征选择的组合分类器模型的步骤：对含L个分类器的组合分类器，记P_l，q_l为第l个分类器的分类正确率，第l个分类器输入特征子集及分类器的构造由如下目标函数确定：$\begin{array}{cc}\max & P_l\\ \max & 1-\underset{j=1}{\overset{l-1}{\max }}\left\{S_c(p_j,p_l)\right\}\\ \min & q_l\end{array}$以至于所设计的第l个分类器同时具有最大的分类正确率，与其它分类器之间最差的相似性，以及最小的特征子集规模，三个目标函数的优先级由高到低；其中，对目标函数min q_l，给定q最大值为α，对q＝1，2，...，α分别运行蚁群算法，取分类效果最好且q值最小的那组特征；其中，将其余两个目标函数进行加权求和转化为单目标函数：$\max {\alpha }_1{P}_l+{\alpha }_2(1-\underset{j+1}{\overset{l-1}{\max }}\{S_c(p_j,p_l)\left\}\right)$其中，α₁＞0，α₂＞0，α₁+α₂＝1，当P_l→1，l＝1，2，...，L时，目标函数的值趋向于0，因此，目标函数max P_l和二者相互矛盾，所以，为避免出现以减小正确率为代价而获取较高的成员分类器间不相似性，取较大的α₁，在上式中取α₁＝0.7，α₂＝0.3；其中，对给定样本集，训练样本和测试样本相同，若对同一类型的分类器Λ，功能相同也就是将相同的状态样本映射至相同的类空间，且参数设置相同，则对一给定特征子集subset确定相应的样本特征向量，通过训练样本特征向量对分类器训练，然后用测试样本对分类器测试，可以将subset映射为一个确定的分类器Λ_subset和一个输出结果分布矩阵p，即Λ(subset)＝(Λ_subset，p)分类器Λ_subset的相似性可以由subset的相似程度和p的相似程度来度量，分别称为输入相似性和输出相似性；分类器输入相似性判定准则：将分类器的输入相似性定义为分类器输入特征子集的相似程度，对两个分类器输入特征子集subset₁和subset₂，且均为非空子集，用谷元距离度量它们的相似程度：$S_t(\mathrm{subse}{t}_1,\mathrm{subse}{t}_2)=1-\frac{\text{|subse}{t}_1|+|\mathrm{subse}{t}_2|-2|\mathrm{subse}{t}_1\cap \mathrm{subse}{t}_2|}{\left|\mathrm{subse}{t}_1\right|+\left|\mathrm{subse}{t}_2\right|-|\mathrm{subse}{t}_1\cap \mathrm{subse}{t}_2|}$其中，S_t为分类器的输入相似性程度函数，S_t∈[0，1]，S_t＝0时，意味着两子集之间没有相同元素，S_t＝1时，意味着两子集完全相同，用其对应的训练样本训练所确定的分类器也相同，即S_t越大两子集的相似性越强，分类器的输入相似性越强；分类器输出相似性判定准则：将分类器的输出相似性定义为分类器分类结果分布矩阵的相似程度，对两分类器的分类结果分布矩阵p₁＝[p_1，ii′]，p₂＝[p_2，ii′]，i＝1，2，...，M，i′＝1，2，...，M′，M，M′为自然数，用如下归一化的皮尔森相关系数度量它们的相似程度：$S_c(p_1,p_2)=\frac{\frac{\underset{i=1}{\overset{M}{\Sigma }}\underset{i^{\prime }=1}{\overset{M^{\prime }}{\Sigma }}(p_{1,{\mathrm{ii}}^{\prime }}-{\bar{p}}_1)(p_{2{,\mathrm{ii}}^{\prime }}-{\bar{p}}_2)}{\sqrt{\underset{i=1}{\overset{M}{\Sigma }}\underset{i^{\prime }=1}{\overset{M^{\prime }}{\Sigma }}{(p_{1,{\mathrm{ii}}^{\prime }}-{\bar{p}}_1)}^2\underset{i=1}{\overset{M}{\Sigma }}\underset{i^{\prime }=1}{\overset{M^{\prime }}{\Sigma }}{(p_{2,{\mathrm{ii}}^{\prime }}-{\bar{p}}_2)}^2}}+1}{2}$上式中，S_c为分类器的输出相似性程度函数，分别为矩阵p₁，p₂的元素均值：${\bar{p}}_1=\frac{1}{{\mathrm{MM}}^{\prime }}\underset{i=1}{\overset{M}{\Sigma }}\underset{i^{\prime }=1}{\overset{M^{\prime }}{\Sigma }}{p}_{1,{\mathrm{ii}}^{\prime }}$S_c∈[0，1]，S_c＝1时，意味着两分布矩阵完全正相关，对应分类器的分类结果分布矩阵相同，S_c＝0时，意味着两分布矩阵完全负相关，认为对应分类器输出结果分布矩阵相似性最差；组合分类器中的各成员分类器分类正确率越高，同时它们之间的输出相似性越差，则此组合分类器的分类性能越好，即具有此特性的组合分类器，可以确保只有少数分类器对同一样本同时分类错误。