拓?fù)鋽?shù)據(jù)分析與機(jī)器學(xué)習(xí)的相互促進(jìn)

拓?fù)?/span>數(shù)據(jù)分析（TDA）和機(jī)器學(xué)習(xí)（ML）的區(qū)別與聯(lián)系讓不熟悉TDA的人撲朔迷離，本文通過兩個(gè)定義，解釋了TDA和ML的不同，以及TDA和ML如何相互促進(jìn)，為何會(huì)相互促進(jìn)，并通過一個(gè)設(shè)備故障分析的案例（5000個(gè)樣本，復(fù)雜度適中，48個(gè)連續(xù)特征）來進(jìn)行證明。

對(duì)拓?fù)鋽?shù)據(jù)分析（TDA）不熟悉的人，經(jīng)常會(huì)問及一些類似的問題：“機(jī)器學(xué)習(xí)和TDA兩者之間的區(qū)別？”，這種問題的確難以回答，部分原因在于你眼中的機(jī)器學(xué)習(xí)（ML）是什么。

下面是維基百科關(guān)于機(jī)器學(xué)習(xí)的說明：

機(jī)器學(xué)習(xí)研究算法學(xué)習(xí)和構(gòu)造，能從數(shù)據(jù)中進(jìn)行學(xué)習(xí)并做出預(yù)測(cè)。這種算法通過從輸入實(shí)例中建立模型，目的是根據(jù)數(shù)據(jù)做出預(yù)測(cè)或決策，而不是嚴(yán)格地遵循靜態(tài)程序指令。
大多數(shù)人可能會(huì)認(rèn)為TDA是機(jī)器學(xué)習(xí)的一種形式，但我覺得，在這些領(lǐng)域工作的人可能都不會(huì)贊成這一說法。

機(jī)器學(xué)習(xí)的具體實(shí)例比任何一個(gè)TDA的例子更像機(jī)器學(xué)習(xí)。同樣，TDA的實(shí)例比任何一個(gè)機(jī)器學(xué)習(xí)的例子看起來更像是TDA。

為了解釋TDA和ML兩者的不同，更重要的是證明TDA和ML是如何相互促進(jìn)以及為何會(huì)相互促進(jìn)，我將給出兩個(gè)非常簡(jiǎn)單的定義，然后用一個(gè)真實(shí)的實(shí)例進(jìn)行說明。

定義ML：假定一個(gè)數(shù)據(jù)參數(shù)模型，并根據(jù)數(shù)據(jù)來學(xué)習(xí)模型參數(shù)的任意方法。

定義TDA：只把數(shù)據(jù)點(diǎn)間的“相似性”概念用來構(gòu)建數(shù)據(jù)模型的任意方法。

在這種觀點(diǎn)中，ML模型更加具體和詳細(xì)，而且模型的成功取決于它對(duì)未知數(shù)據(jù)的擬合程度。它的優(yōu)勢(shì)是，當(dāng)數(shù)據(jù)能很好的擬合模型時(shí)，其結(jié)果尤為突出——幾乎能夠完美的理解那些有明顯噪聲的數(shù)據(jù)。

TDA的優(yōu)點(diǎn)是它的通用性。

對(duì)于TDA，任何相似性概念都可以拿來使用。相反，對(duì)于ML，你需要一個(gè)（或更多）強(qiáng)化的相似性概念，與其它任何方法一起發(fā)揮作用。

例如，給你一長(zhǎng)串的名字，你是無法根據(jù)它來預(yù)測(cè)出身高和體重。你需要更多的信息。

主要因素是拓?fù)渌惴▽?duì)小誤差的容忍度很大——即便你的相似性概念在某種程度上存在缺陷，只要它存在“幾分相似”，TDA算法一般就會(huì)產(chǎn)生一些有用的東西。

TDA方法的通用性還有另一個(gè)優(yōu)于ML技術(shù)的地方，當(dāng)ML方法擬合效果很好的時(shí)候，TDA方法仍然有效——即ML方法經(jīng)常創(chuàng)建詳細(xì)的能生成相似性概念的內(nèi)部狀態(tài)，使TDA和ML能夠更深層次的洞悉數(shù)據(jù)。

聽起來還不錯(cuò)，但是這通常會(huì)走向極端（或者如果你覺得小誤差的容忍度偏低，或是模糊度不夠），這意味著一切都有可能發(fā)生。

那么，來舉個(gè)特例吧。

隨機(jī)森林分類器是一個(gè)組合學(xué)習(xí)方法，在訓(xùn)練過程中，建立大量的決策樹并在這些“森林”（決策樹集合）的基礎(chǔ)上使用“多數(shù)規(guī)則”對(duì)非訓(xùn)練數(shù)據(jù)進(jìn)行分類。

盡管建立樹的過程相當(dāng)有趣并且也很靈活，但它們沒有相關(guān)的細(xì)節(jié)。對(duì)于隨機(jī)森林，你只要記住，它通過把一系列決策樹的集合應(yīng)用到已知數(shù)據(jù)點(diǎn)上，然后返回一系列的“葉節(jié)點(diǎn)”（決策樹中，到輸入”下落”的葉子）。

在正常的操作下，每棵樹的每個(gè)葉子節(jié)點(diǎn)都有一個(gè)相關(guān)的類別C，可以解釋為“當(dāng)一個(gè)數(shù)據(jù)點(diǎn)位于樹的該節(jié)點(diǎn)時(shí)，在很大程度上它就屬于該類別C”。隨機(jī)森林分類器通過從每棵樹上統(tǒng)計(jì)“葉節(jié)點(diǎn)類別投票總數(shù)”來選出勝出者。盡管在大規(guī)模的數(shù)據(jù)類型上高度有效，但該過程會(huì)丟掉大量的信息。

如果你關(guān)心的是對(duì)數(shù)據(jù)類別的最佳猜測(cè)，那么你不會(huì)想看到額外的信息，但有時(shí)候你會(huì)需要更多的信息。這種“無關(guān)的”信息可以轉(zhuǎn)換成一個(gè)距離函數(shù)，通過把兩個(gè)數(shù)據(jù)點(diǎn)之間的距離定義為它們各自“葉節(jié)點(diǎn)”之間差異的倍數(shù)。

兩個(gè)數(shù)據(jù)點(diǎn)的距離函數(shù)是一個(gè)很好的度量（事實(shí)上，是在轉(zhuǎn)換后的數(shù)據(jù)集上的漢明距離），而且這樣我們可以把TDA應(yīng)用到上面。

例如，讓我們來看看從下面的樣本中隨機(jī)選取的5000個(gè)樣本點(diǎn)

該數(shù)據(jù)集復(fù)雜度適中，有48個(gè)連續(xù)特征，這些特征似乎是硬盤驅(qū)動(dòng)中無法解釋的電流信號(hào)。數(shù)據(jù)還包括一個(gè)類別列，它有11個(gè)可能的取值，描述的是光盤驅(qū)動(dòng)組件不同的狀況（故障模式，也許吧？）。很明顯可以在特征列上計(jì)算歐幾里得距離，然后通過類來給圖形著色。由于我們對(duì)于特征項(xiàng)一無所知，所以首先要嘗試的事情就是查看鄰近晶狀體情況。其結(jié)果是一個(gè)普通的斑點(diǎn)。

這讓人有些失望！

接著，使用一些內(nèi)部的調(diào)試功能，我看到鄰近晶狀體的一個(gè)散點(diǎn)圖，我知道為什么如此糟糕了——它看起來像是一顆圣誕樹。

很顯然，在歐氏度量中沒有類的定位。

然而，如果你在數(shù)據(jù)集上建立一個(gè)隨機(jī)森林，分類器會(huì)有一個(gè)非常小的out-of-bag誤差，這強(qiáng)烈的表明了分類器性能的可靠性。

因此，我嘗試使用隨機(jī)森林的漢明距離來作圖，這種度量下的鄰近晶狀體如下圖所示：

這看起來很不錯(cuò)。只要確定我們也看到了鄰近晶狀體的散點(diǎn)圖就行，上圖的結(jié)果表明：

很明顯，從線圖和散點(diǎn)圖可以看出，隨機(jī)森林“看”復(fù)雜結(jié)構(gòu)的能力要低于分類的標(biāo)準(zhǔn)水平，并被TDA給證實(shí)了。原因就是RF沒有充分使用“不相關(guān)的”數(shù)據(jù)——而TDA充分的利用了這些數(shù)據(jù)并且從這些信息中得到了大量的好處。

然而，一些人可能會(huì)說，這種結(jié)構(gòu)是虛構(gòu)的——這也許是我們?cè)谙到y(tǒng)的某處使用算法人工生成的？在這種數(shù)據(jù)集下，我們不能真正識(shí)別它，因?yàn)閷?duì)于該類別的其它信息我們一無所知。

不過，基于設(shè)備老化時(shí)收集的數(shù)據(jù)，我們?cè)谙M(fèi)者數(shù)據(jù)上使用隨機(jī)森林來度量分析成千上萬的復(fù)雜設(shè)備可能的故障模式。類別是基于設(shè)備因?yàn)椴煌脑颍ú⒉皇撬械脑蚨际怯晒收蠈?dǎo)致的）而返廠的事后分析完成的。

在這個(gè)例子中，我們發(fā)現(xiàn)隨機(jī)森林度量標(biāo)準(zhǔn)在故障識(shí)別層面做的很好，并且我們得到的圖片特征和上面這些也相似。更重要的是，我們發(fā)現(xiàn)在給定的故障模式中的特定組，有時(shí)有不同的原因。

在這些情況下得出的結(jié)論是：我們?cè)谑褂肨DA和RF時(shí)沒有做進(jìn)一步的空間分解，這些原因可能會(huì)更難發(fā)現(xiàn)。

我們剛才看到的例子表明，TDA與機(jī)器學(xué)習(xí)可以一起使用，并且得到的效果比使用單個(gè)技術(shù)更好。

這就是我們所說的ML&TDA：同時(shí)使用更好。