機(jī)器學(xué)習(xí)中，我們最常遇到的就是無(wú)監(jiān)督，有監(jiān)督，半監(jiān)督了。無(wú)監(jiān)督和有監(jiān)督的區(qū)別，小編之前跟大家分享過(guò)，今天跟大家分享的是無(wú)監(jiān)督機(jī)器學(xué)習(xí)中常見(jiàn)的聚類(lèi)算法，希望對(duì)大家無(wú)監(jiān)督學(xué)習(xí)有所幫助。

一、基本概念

1.無(wú)監(jiān)督學(xué)習(xí)：

無(wú)監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)的一種方法，根據(jù)類(lèi)別未知(沒(méi)有被標(biāo)記)的訓(xùn)練樣本解決模式識(shí)別中的各種問(wèn)題。無(wú)監(jiān)督學(xué)習(xí)應(yīng)用主要包含：聚類(lèi)分析、關(guān)系規(guī)則、維度縮減。

2.聚類(lèi)：

無(wú)監(jiān)督學(xué)習(xí)里典型例子是聚類(lèi)。聚類(lèi)是把相似的對(duì)象通過(guò)靜態(tài)分類(lèi)的方法分成不同的組別或者更多的子集，這樣讓在同一個(gè)子集中的成員對(duì)象都有相似的一些屬性，常見(jiàn)的包括在坐標(biāo)系中更加短的空間距離等。

最常見(jiàn)的無(wú)監(jiān)督聚類(lèi)算法：

K均值聚類(lèi)

分層聚類(lèi)

基于密度的掃描聚類(lèi)(DBSCAN)

二、無(wú)監(jiān)督聚類(lèi)算法--K均值聚類(lèi)

K均值聚類(lèi) 是我們最常用的基于歐式距離的聚類(lèi)算法，它是數(shù)值的、非監(jiān)督的、非確定的、迭代的，該算法旨在最小化一個(gè)目標(biāo)函數(shù)——誤差平方函數(shù)(所有的觀測(cè)點(diǎn)與其中心點(diǎn)的距離之和)，其認(rèn)為兩個(gè)目標(biāo)的距離越近，相似度越大，由于具有出色的速度和良好的可擴(kuò)展性，K均值聚類(lèi)算得上是最著名的聚類(lèi)方法。

1.K均值中最常用的距離是歐氏距離平方。m維空間中兩點(diǎn)x和y之間的距離的示例是：

這里，j是采樣點(diǎn)x和y的第j維(或特征列)。

集群慣性是聚類(lèi)上下文中給出的平方誤差之和的名稱(chēng)，表示如下：

其中μ(j)是簇j的質(zhì)心，并且如果樣本x(i)在簇j中則w(i，j)是1.否則是0.

K均值可以理解為試圖最小化群集慣性因子的算法。

2.具體算法

(1)選擇k值，即我們想要查找的聚類(lèi)數(shù)量。

(2)算法將隨機(jī)選擇每個(gè)聚類(lèi)的質(zhì)心。

(3)將每個(gè)數(shù)據(jù)點(diǎn)分配給最近的質(zhì)心(使用歐氏距離)。

(4)計(jì)算群集慣性。

(5)將計(jì)算新的質(zhì)心作為屬于上一步的質(zhì)心的點(diǎn)的平均值。換句話(huà)說(shuō)，通過(guò)計(jì)算數(shù)據(jù)點(diǎn)到每個(gè)簇中心的最小二次誤差，將中心移向該點(diǎn)。

(6)返回第3步。

二、無(wú)監(jiān)督聚類(lèi)算法--分層聚類(lèi)

1.分層聚類(lèi)是基于prototyope的聚類(lèi)算法的替代方案。分層聚類(lèi)的主要優(yōu)點(diǎn)是不需要指定聚類(lèi)的數(shù)量，它會(huì)自己找到它。此外，它還可以繪制樹(shù)狀圖。樹(shù)狀圖是二元分層聚類(lèi)的可視化。

在底部融合的觀察是相似的，而在頂部的觀察是完全不同的。對(duì)于樹(shù)狀圖，基于垂直軸的位置而不是水平軸的位置進(jìn)行結(jié)算。

2.分層聚類(lèi)的類(lèi)型

分層聚類(lèi)有兩種方法：集聚和分裂。

分裂：這種方法首先將所有數(shù)據(jù)點(diǎn)放入一個(gè)集群中。 然后，它將迭代地將簇分割成較小的簇，直到它們中的每一個(gè)僅包含一個(gè)樣本。

集聚：這種方法從每個(gè)樣本作為不同的集群開(kāi)始，然后將它們彼此靠近，直到只有一個(gè)集群。

3.分層聚類(lèi)優(yōu)缺點(diǎn)

分層聚類(lèi)的優(yōu)點(diǎn);

(1)由此產(chǎn)生的層次結(jié)構(gòu)表示可以提供非常豐富的信息。

(2)樹(shù)狀圖提供了一種有趣且信息豐富的可視化方式。

(3)當(dāng)數(shù)據(jù)集包含真正的層次關(guān)系時(shí)，它們特別強(qiáng)大。

分層聚類(lèi)的缺點(diǎn)：

(1)分層聚類(lèi)對(duì)異常值非常敏感，并且在其存在的情況下，模型性能顯著降低。

(2)從計(jì)算上講，分層聚類(lèi)非常昂貴。

三、無(wú)監(jiān)督聚類(lèi)算法--DBSCAN 聚類(lèi)

DBSCAN(帶噪聲的基于密度的空間聚類(lèi)方法)是一種流行的聚類(lèi)算法，它被用來(lái)在預(yù)測(cè)分析中替代 K 均值算法。它并不要求輸入簇的個(gè)數(shù)才能運(yùn)行。但是，你需要對(duì)其他兩個(gè)參數(shù)進(jìn)行調(diào)優(yōu)。

優(yōu)缺點(diǎn)：

1.優(yōu)點(diǎn)

①不需要指定簇的個(gè)數(shù);

②可以對(duì)任意形狀的稠密數(shù)據(jù)集進(jìn)行聚類(lèi)，相對(duì)的，K-Means之類(lèi)的聚類(lèi)算法一般只適用于凸數(shù)據(jù)集;

③擅長(zhǎng)找到離群點(diǎn)(檢測(cè)任務(wù));

④兩個(gè)參數(shù)ε\varepsilonε和minPts就夠了;

⑤聚類(lèi)結(jié)果沒(méi)有偏倚，相對(duì)的，K-Means之類(lèi)的聚類(lèi)算法初始值對(duì)聚類(lèi)結(jié)果有很大影響。

2.缺點(diǎn)

①高維數(shù)據(jù)有些困難;

②Sklearn中效率很慢(數(shù)據(jù)削減策略);

③如果樣本集的密度不均勻、聚類(lèi)間距差相差很大時(shí)，聚類(lèi)質(zhì)量較差，這時(shí)用DBSCAN聚類(lèi)一般不適合;

④調(diào)參相對(duì)于傳統(tǒng)的K-Means之類(lèi)的聚類(lèi)算法稍復(fù)雜，主要需要對(duì)距離閾值ε\varepsilonε，鄰域樣本數(shù)閾值MinPts聯(lián)合調(diào)參，不同的參數(shù)組合對(duì)最后的聚類(lèi)效果有較大影響。