发明名称 一种K-means聚类的初值选择方法
摘要 一种K-means聚类的初值选择方法,解决了K-means容易陷入局部极值、聚类结果不稳定、严重依赖初始聚类中心的问题。K-means聚类的初值通常是采用抽样的方法从数据集中获取。为了提高K-means的稳定性,需要为K-means提供质量更好的抽样。传统的解决方法计算复杂度偏高,而且总是拒绝最优的抽样结果。本发明充分考虑理想抽样的空间分布特点,采用样本之间距离的总体水平结合最小距离来评价随机抽样的质量。通过多次抽样,选择评价指标相对最优的抽样结果作为K-means的初值。新的K-means初值选择方法计算复杂度低,能够很容易捕捉到多次采样中随机出现的最好结果,从而为K-means提供相对更好的初值所需的数据对象,有效降低K-means陷入局部最优的概率,最终提高K-means聚类结果稳定性。
申请公布号 CN105447521A 申请公布日期 2016.03.30
申请号 CN201510829785.8 申请日期 2015.11.25
申请人 大连理工大学 发明人 卢志茂;范冬梅;姚念民;谭国真;高振国
分类号 G06K9/62(2006.01)I 主分类号 G06K9/62(2006.01)I
代理机构 大连理工大学专利中心 21200 代理人 赵连明;梅洪玉
主权项 一种K‑means聚类的初值选择方法,其特征在于以下步骤:(1)选择k个初始聚类中心:从包含有n(n∈N)个数据对象的数据集X={x<sup>t</sup>}<sup>n</sup><sub>t=1</sub>中选择包含有k个数据对象的子集S={x<sup>i</sup>}<sup>k</sup><sub>i=1</sub>作为K‑means聚类的初值;x<sup>t</sup>表示数据集中第t个数据对象,k≥2;做M次规模为k的随机抽样,0&lt;M且M∈N,组成M个样本集;每个样本集包含k个样本;(2)根据式(2‑1)计算每个样本集S<sub>m</sub>对应的质量函数Q<sub>m</sub>(d),1≤m≤M,以此评价样本集S<sub>m</sub>的质量;(3)按照式(2‑2)选择具有最大Q(d)值的样本集S<sub>g</sub>,1≤g≤M,作为K‑means的初值;<maths num="0001" id="cmaths0001"><math><![CDATA[<mrow><mi>Q</mi><mrow><mo>(</mo><mi>d</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mn>2</mn><mrow><mi>k</mi><mrow><mo>(</mo><mi>k</mi><mo>-</mo><mn>1</mn><mo>)</mo></mrow></mrow></mfrac><munderover><mo>&Sigma;</mo><mrow><mi>i</mi><mo>=</mo><mn>1</mn></mrow><mi>k</mi></munderover><munderover><mo>&Sigma;</mo><mrow><mi>j</mi><mo>=</mo><mn>1</mn></mrow><mi>k</mi></munderover><mrow><mo>(</mo><msub><mi>d</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>)</mo></mrow><mo>&times;</mo><munder><mrow><mi>m</mi><mi>i</mi><mi>n</mi></mrow><mrow><mi>i</mi><mo>,</mo><mi>j</mi></mrow></munder><mo>{</mo><msub><mi>d</mi><mrow><mi>i</mi><mi>j</mi></mrow></msub><mo>}</mo><mo>,</mo><mi>i</mi><mo>&NotEqual;</mo><mi>j</mi><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>2</mn><mo>-</mo><mn>1</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000856776530000011.GIF" wi="1559" he="167" /></maths>式(2‑1)中的Q(d)是样本集的质量评价函数,d<sub>ij</sub>表示第i个和第j个样本之间的欧氏距离,d<sub>ij</sub>=||x<sup>i</sup>‑x<sup>j</sup>||<sup>2</sup>,1≤i≤k,1≤j≤k,i≠j,<img file="FDA0000856776530000012.GIF" wi="452" he="108" />是计算样本间欧氏距离的期望,min<sub>i,j</sub>{d<sub>ij</sub>}是计算样本间的最小距离。<maths num="0002" id="cmaths0002"><math><![CDATA[<mrow><msub><mi>S</mi><mi>g</mi></msub><mo>=</mo><mi>arg</mi><munder><mrow><mi>m</mi><mi>a</mi><mi>x</mi></mrow><mi>m</mi></munder><msub><mi>Q</mi><mi>m</mi></msub><mrow><mo>(</mo><mi>d</mi><mo>)</mo></mrow><mo>-</mo><mo>-</mo><mo>-</mo><mrow><mo>(</mo><mn>2</mn><mo>-</mo><mn>2</mn><mo>)</mo></mrow></mrow>]]></math><img file="FDA0000856776530000013.GIF" wi="1350" he="87" /></maths>式(2‑2)中的S<sub>g</sub>代表具有最大Q(d)值的样本集。
地址 116024 辽宁省大连市甘井子区凌工路2号