大數(shù)據(jù)會(huì)說(shuō)話,簡(jiǎn)明機(jī)器學(xué)習(xí)問(wèn)題

從數(shù)據(jù)中學(xué)習(xí)究竟是什么？科學(xué)家從數(shù)據(jù)中學(xué)習(xí)，企業(yè)、政府和慈善機(jī)構(gòu)也一樣。事實(shí)上，無(wú)論是私人、公共的，還是慈善部門的領(lǐng)域，幾乎沒(méi)有哪個(gè)領(lǐng)域不在部署數(shù)據(jù)驅(qū)動(dòng)的模型，以發(fā)掘和利用數(shù)據(jù)中的關(guān)系。

我們置身于數(shù)據(jù)之中，亞馬遜網(wǎng)站每天發(fā)生2.5萬(wàn)次銷售/交付，10萬(wàn)個(gè)基因幾乎同時(shí)測(cè)序，超過(guò)100億張圖片存儲(chǔ)在網(wǎng)頁(yè)上。而大約在幾個(gè)月之內(nèi)，英國(guó)的國(guó)家衛(wèi)生局對(duì)6000萬(wàn)份健康記錄進(jìn)行了數(shù)字化處理。我們所有人每天都在使用數(shù)據(jù)，而且許多人在工作的付薪過(guò)程中都使用了數(shù)據(jù)。營(yíng)銷公司的分析師必須決定，他的受眾/聽(tīng)眾選擇模型需要包含哪些因素。本地衛(wèi)生部門的研究人員測(cè)量季節(jié)性流感的發(fā)病率。氣象學(xué)家運(yùn)行氣候模型，計(jì)算降水的可能性、溫度的變化以及云層覆蓋的百分比。

公共部門和某些公司需要將海量信息轉(zhuǎn)換為可操作的戰(zhàn)略性公共/商業(yè)決策。從數(shù)據(jù)中學(xué)習(xí)提供了一系列實(shí)踐性的技術(shù)和工具，來(lái)幫助開發(fā)穩(wěn)健的歸納模型，用以從數(shù)據(jù)中提取可用的見(jiàn)解。歸納的簡(jiǎn)單含義是指觀點(diǎn)源于經(jīng)驗(yàn)數(shù)據(jù)，而非根據(jù)理論第一的原則來(lái)推導(dǎo)。

本文的首要目標(biāo)是幫助你把大量數(shù)據(jù)轉(zhuǎn)化為可用的知識(shí)。為此，我們將借助理論來(lái)重塑數(shù)據(jù)科學(xué)挑戰(zhàn)的思考方式。但是，本文不是一本專門討論引理、證明以及抽象理論細(xì)節(jié)的教科書。它為這樣的讀者而準(zhǔn)備：他們希望獲得一個(gè)重要的、成功的框架，用來(lái)建立有用的預(yù)測(cè)分析模型，從而為他們工作的組織以及他們服務(wù)的客戶改善運(yùn)營(yíng)方式和提高盈利。同時(shí)務(wù)必了解，數(shù)據(jù)科學(xué)這項(xiàng)職業(yè)不適合那些缺乏好奇心或者技術(shù)能力的人，任何處理實(shí)證數(shù)據(jù)的職業(yè)也同樣不適合。

在本文中，你會(huì)學(xué)到歸納推理與演繹推理的關(guān)鍵區(qū)別，確定學(xué)習(xí)問(wèn)題的三大要素，以及發(fā)現(xiàn)使用歸納模型的一個(gè)明確框架。

1.1　歸納推理和演繹推理的基礎(chǔ)

圖1.1圍繞著假設(shè)檢驗(yàn)，展示了歸納法和演繹法之間的一個(gè)關(guān)鍵區(qū)別。兩種方法都始于觀察有趣的現(xiàn)象，但歸納方法更關(guān)心選擇最佳的預(yù)測(cè)模型。而演繹方法更關(guān)心探索理論，主要是結(jié)合數(shù)據(jù)來(lái)檢驗(yàn)?zāi)硞€(gè)理論的假設(shè)。根據(jù)經(jīng)驗(yàn)數(shù)據(jù)的“有分量的證據(jù)”，來(lái)判斷這個(gè)假設(shè)是接受還是拒絕。

圖1.1 歸納和演繹

1.1.1　你曾遇到過(guò)這些事情嗎？

我想起在我聽(tīng)過(guò)的理論經(jīng)濟(jì)學(xué)課上，教授曾嚴(yán)厲警告：“不能信任數(shù)據(jù)?！币苍S，這種經(jīng)歷并不僅僅出現(xiàn)在我的課堂上。一位著名的計(jì)量經(jīng)濟(jì)學(xué)教授曾解釋道1：“經(jīng)濟(jì)學(xué)中有一種普遍觀點(diǎn)，如果當(dāng)前的經(jīng)驗(yàn)證據(jù)不可信，或經(jīng)濟(jì)現(xiàn)象無(wú)法預(yù)測(cè)，那么主要是因?yàn)榻?jīng)濟(jì)太復(fù)雜，而且產(chǎn)生的數(shù)據(jù)太混亂，不適合建立統(tǒng)計(jì)模型?！被蛟S，你也有過(guò)類似經(jīng)歷。

但是，當(dāng)我離開課堂，步入了經(jīng)驗(yàn)分析的真實(shí)世界，居然很快發(fā)現(xiàn)，只要給我足夠的數(shù)據(jù)和適合的工具，使用數(shù)據(jù)驅(qū)動(dòng)的歸納法會(huì)帶給我意義重大的結(jié)論。

注意:在每個(gè)可以想到的領(lǐng)域——商業(yè)的、工業(yè)的以及政府的，成功的數(shù)據(jù)驅(qū)動(dòng)的歸納模型都已經(jīng)存在，或正在建立。數(shù)據(jù)決策的模型越來(lái)越多地用來(lái)制定決策，如可以識(shí)別你的語(yǔ)音的智能手機(jī)，又如實(shí)施外科手術(shù)的機(jī)器人2，再如核爆炸的檢測(cè)。

1.1.2　釋放歸納的力量

無(wú)論你是否在這些領(lǐng)域中工作，醫(yī)療診斷、手寫體識(shí)別、市場(chǎng)、金融預(yù)測(cè)、生物信息學(xué)、經(jīng)濟(jì)學(xué)的領(lǐng)域，還是在其他任何要求經(jīng)驗(yàn)分析的專業(yè)領(lǐng)域，你常常會(huì)面對(duì)這樣的情況，潛在的首要原則尚未發(fā)現(xiàn)，或正在研究的系統(tǒng)過(guò)于復(fù)雜，無(wú)法通過(guò)充分詳細(xì)的數(shù)學(xué)描述來(lái)提供有用的結(jié)果。我發(fā)現(xiàn)，數(shù)據(jù)驅(qū)動(dòng)的歸納方法在以上所有情況中都有用，你也會(huì)認(rèn)同這一點(diǎn)。

注意:在科學(xué)之外，演繹分析可能在經(jīng)濟(jì)學(xué)學(xué)科中占據(jù)了頂峰地位，其中大部分的焦點(diǎn)（甚至今天也一樣）都圍繞著檢驗(yàn)和評(píng)估演繹理論的經(jīng)濟(jì)學(xué)有效性。事實(shí)上，經(jīng)濟(jì)學(xué)家對(duì)理論進(jìn)行客觀驗(yàn)證的渴望催生了新的統(tǒng)計(jì)學(xué)子學(xué)科—計(jì)量經(jīng)濟(jì)學(xué)。

1.1.3　推斷的陰陽(yáng)之道

盡管歸納和演繹的區(qū)別相當(dāng)大，但它們實(shí)際上也可以互補(bǔ)使用。對(duì)于一個(gè)研究者來(lái)說(shuō)，計(jì)劃一個(gè)同時(shí)包含歸納元素和演繹元素的項(xiàng)目是非同尋常的。

如果你曾經(jīng)或長(zhǎng)或短地從事過(guò)經(jīng)驗(yàn)建模領(lǐng)域的工作，那你很可能發(fā)現(xiàn)這種情況：你計(jì)劃執(zhí)行一個(gè)歸納或演繹的項(xiàng)目，但沒(méi)想到隨著時(shí)間的推移，你又發(fā)現(xiàn)了其他更適合的方法來(lái)闡明你的研究問(wèn)題。需要牢記的是，歸納方法或演繹方法的使用，部分地依賴于你的數(shù)據(jù)分析目標(biāo)。

注意：演繹推理優(yōu)越性的相對(duì)下降，可以部分地由數(shù)據(jù)驅(qū)動(dòng)模型的高度成功來(lái)解釋。意大利學(xué)者馬特奧·帕爾多（Matteo Pardo）和喬治·斯貝沃格里尼（Giorgio Sberveglieri）在十多年前正確地觀察到6：“在當(dāng)前，從遵循首要原則的經(jīng)典建模到開發(fā)數(shù)據(jù)建模，發(fā)生了一種范式轉(zhuǎn)換。”有趣的是，需要注意，現(xiàn)在數(shù)據(jù)建模者的短缺是世界性的問(wèn)題7。

1.2　學(xué)習(xí)問(wèn)題的三大要素

我們的討論始于學(xué)習(xí)問(wèn)題的基礎(chǔ)。例如，有監(jiān)督的分類問(wèn)題，其中我們得到的數(shù)據(jù)是實(shí)值的屬性—響應(yīng)對(duì)（x，y）。三個(gè)元素組成了基本的學(xué)習(xí)問(wèn)題。

1.3　從數(shù)據(jù)中學(xué)習(xí)的目標(biāo)

注意：

歸納偏置是數(shù)據(jù)科學(xué)實(shí)踐中的一個(gè)關(guān)鍵要素，正如倫敦經(jīng)濟(jì)學(xué)院的Jonathan Baxter的解釋8：“在機(jī)器學(xué)習(xí)中，可能最重要的事情就是學(xué)習(xí)機(jī)器假設(shè)空間的預(yù)先偏置，它要足夠小，以保證合理訓(xùn)練集的好的一般化（預(yù)測(cè)能力），也要足夠大，這樣它才能包含學(xué)習(xí)問(wèn)題好的解決答案。”

1.3.1　闡明選擇標(biāo)準(zhǔn)

1.3.2　學(xué)習(xí)任務(wù)的選擇

現(xiàn)在，我們的學(xué)習(xí)框架已經(jīng)準(zhǔn)備就緒，可以把注意力轉(zhuǎn)向我們作為數(shù)據(jù)科學(xué)家需要執(zhí)行的真實(shí)任務(wù)。相當(dāng)幸運(yùn)，結(jié)果發(fā)現(xiàn)從數(shù)據(jù)中學(xué)習(xí)可以恰好分成3種基本類型的工作：

（1）類別決策邊界的分類或估計(jì)。例如，流水線上按大小和顏色分類的雞蛋。

（2）未知連續(xù)函數(shù)的回歸或估計(jì)。例如，預(yù)測(cè)本地音樂(lè)節(jié)創(chuàng)造的票房平均價(jià)值。

（3）概率密度的估計(jì)。例如，估計(jì)愛(ài)爾蘭沿海河流中白斑狗魚的密度。

本文將自始至終主要討論分類的問(wèn)題，因?yàn)檫@是數(shù)據(jù)科學(xué)家面對(duì)的最頻繁的任務(wù)。但是，我們得出的經(jīng)驗(yàn)教訓(xùn)適用于所有3種類型的任務(wù)。