機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、人工智能、統(tǒng)計(jì)模型這么多概念有何差異

在各種各樣的數(shù)據(jù)科學(xué)論壇上這樣一個(gè)問(wèn)題經(jīng)常被問(wèn)到——機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型的差別是什么？這確實(shí)是一個(gè)難以回答的問(wèn)題。考慮到機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型解決問(wèn)題的相似性，兩者的區(qū)別似乎僅僅在于數(shù)據(jù)量和模型建立者的不同。這里有一張覆蓋機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型的數(shù)據(jù)科學(xué)維恩圖。

在這篇文章中，我將盡最大的努力來(lái)展示機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型的區(qū)別，同時(shí)也歡迎業(yè)界有經(jīng)驗(yàn)的朋友對(duì)本文進(jìn)行補(bǔ)充。

在我開始之前，讓我們先明確使用這些工具背后的目標(biāo)。無(wú)論采用哪種工具去分析問(wèn)題，最終的目標(biāo)都是從數(shù)據(jù)獲得知識(shí)。兩種方法都旨在通過(guò)分析數(shù)據(jù)的產(chǎn)生機(jī)制挖掘背后隱藏的信息。

兩種方法的分析目標(biāo)是相同的?，F(xiàn)在讓我們?cè)敿?xì)的探究一下其定義及差異。

定義

機(jī)器學(xué)習(xí)：一種不依賴于規(guī)則設(shè)計(jì)的數(shù)據(jù)學(xué)習(xí)算法。

統(tǒng)計(jì)模型：以數(shù)學(xué)方程形式表現(xiàn)變量之間關(guān)系的程式化表達(dá)

對(duì)于喜歡從實(shí)際應(yīng)用中了解概念的人，上述表達(dá)也許并不明確。讓我們看一個(gè)商務(wù)的案例。

商業(yè)案例

讓我們用麥肯錫發(fā)布的一個(gè)有趣案例來(lái)區(qū)分兩個(gè)算法。

案例：分析理解電信公司一段時(shí)間內(nèi)客戶的流失水平。

可獲得數(shù)據(jù)：兩個(gè)驅(qū)動(dòng)-A&B;

麥肯錫接下來(lái)的展示足夠讓人興奮。盯住下圖來(lái)理解一下統(tǒng)計(jì)模型和機(jī)器學(xué)習(xí)算法的差別。

從上圖中你觀察到了什么？統(tǒng)計(jì)模型在分類問(wèn)題中得到一個(gè)簡(jiǎn)單的分類線。一條非線性的邊界線區(qū)分了高風(fēng)險(xiǎn)人群和低風(fēng)險(xiǎn)人群。但當(dāng)我們看到通過(guò)機(jī)器學(xué)習(xí)產(chǎn)生的顏色時(shí)，我們發(fā)現(xiàn)統(tǒng)計(jì)模型似乎沒(méi)有辦法和機(jī)器學(xué)習(xí)算法進(jìn)行比較。機(jī)器學(xué)習(xí)的方法獲得了任何邊界都無(wú)法詳細(xì)表征的信息。這就是機(jī)器學(xué)習(xí)可以為你做的。

機(jī)器學(xué)習(xí)還被應(yīng)用在YouTube和Google的引擎推薦上，機(jī)器學(xué)習(xí)通過(guò)瞬間分析大量的觀測(cè)樣本給出近乎完美的推薦建議。即使只采用一個(gè)16 G 內(nèi)存的筆記本，我每天處理數(shù)十萬(wàn)行的數(shù)千個(gè)參數(shù)的模型也不會(huì)超過(guò)30分鐘。然而一個(gè)統(tǒng)計(jì)模型需要在一臺(tái)超級(jí)計(jì)算機(jī)跑一百萬(wàn)年來(lái)來(lái)觀察數(shù)千個(gè)參數(shù)。

機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型的差異：

在給出了兩種模型在輸出上的差異后，讓我們更深入的了解兩種范式的差異，雖然它們所做的工作類似。

1、所屬的學(xué)派
2、產(chǎn)生時(shí)間
3、基于的假設(shè)
4、處理數(shù)據(jù)的類型
5、操作和對(duì)象的術(shù)語(yǔ)
6、使用的技術(shù)
7、預(yù)測(cè)效果和人力投入

以上提到的方面都能從每種程度上區(qū)分機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型，但并不能給出機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型的明確界限。

分屬不同的學(xué)派

機(jī)器學(xué)習(xí)：計(jì)算機(jī)科學(xué)和人工智能的一個(gè)分支,通過(guò)數(shù)據(jù)學(xué)習(xí)構(gòu)建分析系統(tǒng)，不依賴明確的構(gòu)建規(guī)則。統(tǒng)計(jì)模型：數(shù)學(xué)的分支用以發(fā)現(xiàn)變量之間相關(guān)關(guān)系從而預(yù)測(cè)輸出。

誕生年代不同

統(tǒng)計(jì)模型的歷史已經(jīng)有幾個(gè)世紀(jì)之久。但是機(jī)器學(xué)習(xí)卻是最近才發(fā)展起來(lái)的。二十世紀(jì)90年代，穩(wěn)定的數(shù)字化和廉價(jià)的計(jì)算使得數(shù)據(jù)科學(xué)家停止建立完整的模型而使用計(jì)算機(jī)進(jìn)行模型建立。這催生了機(jī)器學(xué)習(xí)的發(fā)展。隨著數(shù)據(jù)規(guī)模和復(fù)雜程度的不斷提升，機(jī)器學(xué)習(xí)不斷展現(xiàn)出巨大的發(fā)展?jié)摿Α?

假設(shè)程度差異

統(tǒng)計(jì)模型基于一系列的假設(shè)。例如線性回歸模型假設(shè)：

（1） 自變量和因變量線性相關(guān)

（2） 同方差

（3） 波動(dòng)均值為0

（4） 觀測(cè)樣本相互獨(dú)立

（5） 波動(dòng)服從正態(tài)分布

Logistics回歸同樣擁有很多的假設(shè)。即使是非線性回歸也要遵守一個(gè)連續(xù)的分割邊界的假設(shè)。然而機(jī)器學(xué)習(xí)卻從這些假設(shè)中脫身出來(lái)。機(jī)器學(xué)習(xí)最大的好處在于沒(méi)有連續(xù)性分割邊界的限制。同樣我們也并不需要假設(shè)自變量或因變量的分布。

數(shù)據(jù)區(qū)別

機(jī)器學(xué)習(xí)應(yīng)用廣泛。在線學(xué)習(xí)工具可飛速處理數(shù)據(jù)。這些機(jī)器學(xué)習(xí)工具可學(xué)習(xí)數(shù)以億計(jì)的觀測(cè)樣本，預(yù)測(cè)和學(xué)習(xí)同步進(jìn)行。一些算法如隨機(jī)森林和梯度助推在處理大數(shù)據(jù)時(shí)速度很快。機(jī)器學(xué)習(xí)處理數(shù)據(jù)的廣度和深度很大。但統(tǒng)計(jì)模型一般應(yīng)用在較小的數(shù)據(jù)量和較窄的數(shù)據(jù)屬性上。

命名公約

下面一些命名幾乎指相同的東西：

公式：

雖然統(tǒng)計(jì)模型和機(jī)器學(xué)習(xí)的最終目標(biāo)是相似的，但其公式化的結(jié)構(gòu)卻非常不同

在統(tǒng)計(jì)模型中，我們?cè)噲D估計(jì)f 函數(shù) 通過(guò)

因變量（Y）=f(自變量)+ 擾動(dòng) 函數(shù)

機(jī)器學(xué)習(xí)放棄采用函數(shù)f的形式，簡(jiǎn)化為：

輸出（Y）——> 輸入（X）

它試圖找到n維變量X的袋子，在袋子間Y的取值明顯不同。

預(yù)測(cè)效果和人力投入

自然在事情發(fā)生前并不給出任何假設(shè)。一個(gè)預(yù)測(cè)模型中越少的假設(shè)，越高的預(yù)測(cè)效率。機(jī)器學(xué)習(xí)命名的內(nèi)在含義為減少人力投入。機(jī)器學(xué)習(xí)通過(guò)反復(fù)迭代學(xué)習(xí)發(fā)現(xiàn)隱藏在數(shù)據(jù)中的科學(xué)。由于機(jī)器學(xué)習(xí)作用在真實(shí)的數(shù)據(jù)上并不依賴于假設(shè)，預(yù)測(cè)效果是非常好的。統(tǒng)計(jì)模型是數(shù)學(xué)的加強(qiáng)，依賴于參數(shù)估計(jì)。它要求模型的建立者，提前知道或了解變量之間的關(guān)系。

結(jié)束語(yǔ)

雖然機(jī)器學(xué)習(xí)和統(tǒng)計(jì)模型看起來(lái)為預(yù)測(cè)模型的不同分支，但它們近乎相同。通過(guò)數(shù)十年的發(fā)展兩種模型的差異性越來(lái)越小。模型之間相互滲透相互學(xué)習(xí)使得未來(lái)兩種模型的界限更加模糊。