一、層次聚類法

層次聚類法通常分為自底向上和自頂向下。兩種方法的運算原理其實是相同的。只不過實際計算是方向相反。 自底向上，又叫做合并法。這種方法是先將每個樣本分別作為一個獨立的類，然后通過距離計算，將距離相近的兩個樣本 合并為一類，其他樣本仍然各自為一類。不斷重復(fù)這個過程，直到達(dá)到聚類數(shù)或者設(shè)定的目標(biāo)。 而自頂向下的方法，剛好相反。這種方法先把所有樣本看成一類，然后通過距離計算，選出距離最遠(yuǎn)的兩個樣本，各自為 一個類別，其余樣本根據(jù)距離遠(yuǎn)近分配到兩個類別中，從而形成新的類別劃分。不斷重復(fù)過程，直到達(dá)到聚類數(shù)或者設(shè)定 的目標(biāo)。因此又叫做分解法。 不管是采用哪種層次聚類的方法，一個關(guān)鍵的問題就是距離的定義。了解更多

二、距離的計算

1.最短距離法

最短距離法(Nearest Neighbor)是指當(dāng)我們從A中取出一個樣本，B中取出一個樣本，計算兩個樣本之間的距離，能夠得到 的最小值就是A和B兩個類的距離。而最長距離法(Furthest Neighbor)則剛好相反。

2.中間距離法

3.類平均法

4.重心法

5.離差平方和法

離差平方和法，又叫Ward最小方差法(Ward’s Method)：這種方法主要基于方差分析的思想，如果分類合 理，則同類樣本間離差平方和應(yīng)當(dāng)較小，類與類間離差平方和應(yīng)當(dāng)較大。每次合并類別時，離差平方和會增 大，選擇使得增加值最小的兩類進(jìn)行合并。因此，該方法很少受到異常值的影響，在實際應(yīng)用中的分類效果 較好，適用范圍廣。但該方法要求樣品間的距離必須是歐氏距離。 層次聚類的過程非常清楚，會形成類似樹狀的聚類圖譜，便于理解和檢查。聚類的變量可以是連續(xù)變量，也 可以是分類變量。衡量距離的方法也非常反復(fù)。 但是由于需要反復(fù)計算距離，限制了層次聚類的速度。因此不適用于數(shù)據(jù)量非常大或者變量非常多的項目。 如果計算機(jī)硬件有制約，也會影響層次聚類的可行性。

三、K-Means 聚類

不同于層次聚類，K-Means聚類是一種快速聚類法，因此也適合應(yīng)用于大樣本量的數(shù)據(jù)，或者是進(jìn)行一些前期的數(shù)據(jù)清洗 工作。K-Means聚類方法需要分析師自行指定聚類的數(shù)量，也就是其中的K。因此在實際分析過程中，往往需要多次調(diào)整K 的取值，反復(fù)嘗試，以便得到最優(yōu)的聚類結(jié)果。

其方法可以總結(jié)為：首先選擇K個點作為中心點，這些中心點可以是分析者自己指定的，也可以是數(shù)據(jù)本身結(jié)構(gòu)形成的， 或者是隨機(jī)產(chǎn)生。所有樣本與這K個中心點計算距離，按照距離最近的原則歸入這些中心點。然后重新計算每個類的中心， 再次計算每個樣本與類中心的距離，并按照最短距離原則重新劃分類，如此迭代直至類不再變化為止。

和層次聚類法相比，快速聚類法計算量非常小。即使在樣本數(shù)據(jù)量較大或者變量較多的情況下，仍然可以快速得出結(jié)果， 不會耗費太多的空間和時間，對硬件的依賴性也較低。它也因此得名快速聚類法。在分析時，用戶也可以根據(jù)過往經(jīng)驗或者計算結(jié)果，指定初始中心點位置，也可以進(jìn)一步增加聚類的效率。

但是這個方法應(yīng)用范圍也比較有限。因為需要事先指定聚類數(shù)，因此需要分析師有一定的經(jīng)驗積累，或者可能需要多次反 復(fù)嘗試。對初始點位置也很敏感，容易導(dǎo)致聚類結(jié)果與數(shù)據(jù)真實分類出現(xiàn)差異，對異常值也比較敏感。同時聚類的變量也 必須是連續(xù)變量，對變量的“標(biāo)準(zhǔn)度”要求也相對較高，否則可能產(chǎn)生無意義的結(jié)果。而且K-Means聚類方法并不能對變 量進(jìn)行聚類，也是它使用上的一個比較大的缺點。

四、兩步聚類法

兩步聚類法結(jié)合了K-Means和系統(tǒng)聚類方法，先選擇較大的類數(shù)量對樣本進(jìn)行快速聚類，然后對每個聚類的中心點進(jìn)行系 統(tǒng)聚類，選擇合適的分類數(shù)量，然后將聚類結(jié)果合并為較理想的數(shù)量。 在進(jìn)行聚類時要結(jié)合業(yè)務(wù)理解對數(shù)據(jù)進(jìn)行適當(dāng)變換，并且需要對變量進(jìn)行維度分析，聚類結(jié)果可以使用類中心之間的比較， 結(jié)合業(yè)務(wù)進(jìn)行解讀。

五、聚類的應(yīng)用

在實際使用聚類方法時，我們一般多用于客戶畫像、離群點檢驗、營銷套餐設(shè)計等領(lǐng)域。在使用過程中，我們需要注意選取合適的聚類方法。 對于數(shù)據(jù)量較大或者變量較多的樣本，優(yōu)先考慮K-Means聚類法。樣本數(shù)據(jù)量適中或者變量類型比較復(fù)雜的情況，則可以考慮使用層次聚 類法。特別綜合的項目，也可以采用兩步聚類法，結(jié)合兩種聚類方法各自的優(yōu)勢，高效解決問題。

在聚類之前，數(shù)據(jù)清洗也是非常重要的。標(biāo)準(zhǔn)化可以幫助我們消除不同變量之間量綱的差異，但需要注意的是，在有些場景，比如欺詐分析 時，我們希望通過聚類去發(fā)現(xiàn)異常值，那么前期的數(shù)據(jù)清洗就要注意不能改變原有的分布情況，避免造成結(jié)果偏差。因此分箱法、小數(shù)定標(biāo) 法等清洗方法在聚類問題中需要謹(jǐn)慎使用。另外，通過主成分分析或者因子分析等方法對變量進(jìn)行降維，或者先進(jìn)行變量聚類，也可以幫助 減少冗余變量，更有效地完成聚類。

在一些場景下，直接的業(yè)務(wù)字段并不能夠很好地進(jìn)行量化和數(shù)學(xué)分析，那么我們需要通過一些函數(shù)或者其他的方式，將其進(jìn)行轉(zhuǎn)換，靈活應(yīng) 用，才能更好地解決問題。

聚類本身是一種數(shù)據(jù)算法，聚類的結(jié)果并不總是有實際的使用意義。因此對于聚類結(jié)果，我們需要謹(jǐn)慎地解讀，適當(dāng)?shù)貙ζ溥M(jìn)行修正和調(diào)整， 從而更加貼近業(yè)務(wù)的使用。

最后，需要注意的是，聚類是一種無監(jiān)督學(xué)習(xí)的算法。因此也并沒有統(tǒng)一的評判標(biāo)準(zhǔn)。因此在實際使用過程中，我們可以把聚類結(jié)果和人為 選擇或隨機(jī)選擇的結(jié)果放在一起進(jìn)行比較，這個時候，我們可以通過觀察聚類是否對整體的分類或者研究有提升作用來評判聚類的好壞。 當(dāng)然，我們一般也可以近似地用組間平方和BSS（Between Sum of Squares）和組內(nèi)平方和 WSS（Within Sum of Squares）來作為評價 指標(biāo)判斷聚類的類別數(shù)是否合適。顯然BSS越大，WSS越小，聚類的效果就越好。

另外，只有兩個變量的時候，我們也可以通過畫圖的方法來進(jìn)行觀察和評估。

六、例題精講

1. 以下哪種聚類方法可以提供聚類樹形圖（ ）？

A. 層次聚類

B. K均值聚類

C. 基于密度的聚類

D. 基于網(wǎng)格的聚類

答案：A 解析：層次聚類指的是形成類相似度層次圖譜，便于直觀的確定類之間的劃分，聚類過程可做成聚類譜系圖。聚類譜系圖的 基本思路就在于按照兩點之間的距離，按照由小到大的順序依次進(jìn)行連接。

2.以下哪個是K均值聚類法的缺陷（ ）？

A. 對初始點位置敏感，導(dǎo)致聚類結(jié)果與數(shù)據(jù)真實分類出現(xiàn)差異

B. 無法通過分析方法確定聚類個數(shù)

C. 容易受異常值的影響

D. 容易受到變量量綱的影響

答案：ABC 解析：這部分試題主要考核層次聚類和K均值快速聚類的優(yōu)缺點和適用范圍。當(dāng)樣本量超過50個時，一般采用K均值聚類法，其優(yōu)點是 計算速度快，但是缺點就是ABC答案列出的那樣。

3.某電商分析人員希望通過聚類方法定位代商家刷信用級別的違規(guī)者，以下哪些操作不應(yīng)該進(jìn)行？

A. 對變量進(jìn)行標(biāo)準(zhǔn)化

B. 對變量進(jìn)行百分位秩轉(zhuǎn)換

C.對變量進(jìn)行因子分析或變量聚類

D. 對變量進(jìn)行分箱處理

答案：BD 解析：刷信用級別的違規(guī)者的行為會與正常消費行為在消費頻次、平均消費金額等方面差異比較大，對其進(jìn)行定位相當(dāng)于發(fā)現(xiàn)異常點， 因此要求對變量的轉(zhuǎn)換不能改變其原有分布形態(tài)。常用的標(biāo)準(zhǔn)化方法如中心標(biāo)準(zhǔn)化、極差標(biāo)準(zhǔn)化不會改變分布形態(tài)，而且在聚類前往 往需要使用標(biāo)準(zhǔn)化來消除變量的量綱，因此A不是答案；取百分位秩會將原變量變化為均勻分布，進(jìn)行分箱處理也會改變原變量的分布， 因此BD是答案；因子分析、變量聚類用于數(shù)據(jù)降維，可以使聚類結(jié)果更合理。

點擊CDA題庫鏈接，獲取免費版CDA題庫入口，?？荚図樌焖倌米C！