R語言聚類算法比較

在使用不同的聚類算法完成數(shù)據(jù)聚類操作后，我們可以對(duì)算法的性能進(jìn)行評(píng)估，絕大多數(shù)情況下，我們即可以使用簇內(nèi)距離也可以使用簇間距離作為評(píng)價(jià)標(biāo)準(zhǔn)。使用fpc算法包的cluster.stat函數(shù)來比較不同的聚類算法。

操作

導(dǎo)入fpc包，選擇層次聚類算法，距離計(jì)算采用single方法（最短距離法），將得到簇存放在hc_single中：

library(fpc)
single_c = hclust(dist(customer),method = "single")
hc_single = cutree(single_c,k = 4)

選擇層次聚類算法，距離計(jì)算采用complete方法（最長(zhǎng)距離法），將得到的簇存放在hc_complete：

complete_c = hclust(dist(customer),method = "complete")
hc_complte = cutree(complete_c,k = 4)
選擇k均值聚類算法，將得到的簇存放km對(duì)象中：

set.seed(22)
km = kmeans(customer,4)
獲得km聚類算法聚類結(jié)果的基本統(tǒng)計(jì)信息：

cs = cluster.stats(dist(customer),km$cluster)
通常我們習(xí)慣使用within.cluster.ss和avg.silwidth這兩個(gè)函數(shù)來驗(yàn)證聚類算法：

cs[c("within.cluster.ss","avg.silwidth")]
$within.cluster.ss
[1] 61.3489

$avg.silwidth
[1] 0.4640587

將得到的不同方法生成聚類結(jié)果的統(tǒng)計(jì)信息并以列表顯示：

sapply(list(kmeans = km$cluster,hc_single = hc_single,hc_complte = hc_complte), function(c)cluster.stats(dist(customer),c)[c("within.cluster.ss","avg.silwidth")])
                  kmeans    hc_single hc_complte
within.cluster.ss 61.3489   136.0092  65.94076  
avg.silwidth      0.4640587 0.2481926 0.4255961
原理
聚類結(jié)果的驗(yàn)證通常采用兩種技術(shù)：簇內(nèi)距離和簇間距離。其中，簇間距離距離越大，聚類效果越好，而簇內(nèi)距離越小，聚類效果越理想。使用fpc包中的cluster.stat函數(shù)來計(jì)算訓(xùn)練好的聚類對(duì)象的相關(guān)統(tǒng)計(jì)信息。
從輸出結(jié)果可以得知，within.cluster.ss計(jì)算的是每個(gè)聚類內(nèi)部的距離平方程，而avg.silwidth計(jì)算的是平均輪廓值。within.cluster.ss的計(jì)算結(jié)果體現(xiàn)了同一個(gè)簇之間對(duì)象的相關(guān)程度，該值越小，簇內(nèi)對(duì)象的相關(guān)性越大。而avg.silwidth值則同時(shí)考慮了簇內(nèi)對(duì)象的聚合度和簇內(nèi)對(duì)象的聚合度簇間對(duì)象的分離度。數(shù)學(xué)上對(duì)于每個(gè)點(diǎn)x可以采用下列公式計(jì)算其輪廓系數(shù)：
輪廓系數(shù)（x） = [b(x) - a(x)]/max([b(x),a(x)])
其中，a(x)是點(diǎn)x到所有與它在同一簇中的其他點(diǎn)的平均距離，而b(x)則是點(diǎn)x到所有與它不在同一簇的點(diǎn)平均距離的最小值。通常輪廓系數(shù)取值范圍為0~1，越接近于1說明聚類效果越好。
從最后產(chǎn)生的結(jié)果可以知道，在within.cluster.ss和avg.silwidth測(cè)量長(zhǎng)度下基于最長(zhǎng)距離的層次聚類算法的聚類效果要優(yōu)于最短距離層次聚類算法和k均值算法。