大數(shù)據(jù)會說話,簡明機器學(xué)習(xí)問題

從數(shù)據(jù)中學(xué)習(xí)究竟是什么？科學(xué)家從數(shù)據(jù)中學(xué)習(xí)，企業(yè)、政府和慈善機構(gòu)也一樣。事實上，無論是私人、公共的，還是慈善部門的領(lǐng)域，幾乎沒有哪個領(lǐng)域不在部署數(shù)據(jù)驅(qū)動的模型，以發(fā)掘和利用數(shù)據(jù)中的關(guān)系。

我們置身于數(shù)據(jù)之中，亞馬遜網(wǎng)站每天發(fā)生2.5萬次銷售/交付，10萬個基因幾乎同時測序，超過100億張圖片存儲在網(wǎng)頁上。而大約在幾個月之內(nèi)，英國的國家衛(wèi)生局對6000萬份健康記錄進行了數(shù)字化處理。我們所有人每天都在使用數(shù)據(jù)，而且許多人在工作的付薪過程中都使用了數(shù)據(jù)。營銷公司的分析師必須決定，他的受眾/聽眾選擇模型需要包含哪些因素。本地衛(wèi)生部門的研究人員測量季節(jié)性流感的發(fā)病率。氣象學(xué)家運行氣候模型，計算降水的可能性、溫度的變化以及云層覆蓋的百分比。

公共部門和某些公司需要將海量信息轉(zhuǎn)換為可操作的戰(zhàn)略性公共/商業(yè)決策。從數(shù)據(jù)中學(xué)習(xí)提供了一系列實踐性的技術(shù)和工具，來幫助開發(fā)穩(wěn)健的歸納模型，用以從數(shù)據(jù)中提取可用的見解。歸納的簡單含義是指觀點源于經(jīng)驗數(shù)據(jù)，而非根據(jù)理論第一的原則來推導(dǎo)。

本文的首要目標(biāo)是幫助你把大量數(shù)據(jù)轉(zhuǎn)化為可用的知識。為此，我們將借助理論來重塑數(shù)據(jù)科學(xué)挑戰(zhàn)的思考方式。但是，本文不是一本專門討論引理、證明以及抽象理論細(xì)節(jié)的教科書。它為這樣的讀者而準(zhǔn)備：他們希望獲得一個重要的、成功的框架，用來建立有用的預(yù)測分析模型，從而為他們工作的組織以及他們服務(wù)的客戶改善運營方式和提高盈利。同時務(wù)必了解，數(shù)據(jù)科學(xué)這項職業(yè)不適合那些缺乏好奇心或者技術(shù)能力的人，任何處理實證數(shù)據(jù)的職業(yè)也同樣不適合。

在本文中，你會學(xué)到歸納推理與演繹推理的關(guān)鍵區(qū)別，確定學(xué)習(xí)問題的三大要素，以及發(fā)現(xiàn)使用歸納模型的一個明確框架。

1.1　歸納推理和演繹推理的基礎(chǔ)

圖1.1圍繞著假設(shè)檢驗，展示了歸納法和演繹法之間的一個關(guān)鍵區(qū)別。兩種方法都始于觀察有趣的現(xiàn)象，但歸納方法更關(guān)心選擇最佳的預(yù)測模型。而演繹方法更關(guān)心探索理論，主要是結(jié)合數(shù)據(jù)來檢驗?zāi)硞€理論的假設(shè)。根據(jù)經(jīng)驗數(shù)據(jù)的“有分量的證據(jù)”，來判斷這個假設(shè)是接受還是拒絕。

圖1.1 歸納和演繹

1.1.1　你曾遇到過這些事情嗎？

我想起在我聽過的理論經(jīng)濟學(xué)課上，教授曾嚴(yán)厲警告：“不能信任數(shù)據(jù)?！币苍S，這種經(jīng)歷并不僅僅出現(xiàn)在我的課堂上。一位著名的計量經(jīng)濟學(xué)教授曾解釋道1：“經(jīng)濟學(xué)中有一種普遍觀點，如果當(dāng)前的經(jīng)驗證據(jù)不可信，或經(jīng)濟現(xiàn)象無法預(yù)測，那么主要是因為經(jīng)濟太復(fù)雜，而且產(chǎn)生的數(shù)據(jù)太混亂，不適合建立統(tǒng)計模型?！被蛟S，你也有過類似經(jīng)歷。

但是，當(dāng)我離開課堂，步入了經(jīng)驗分析的真實世界，居然很快發(fā)現(xiàn)，只要給我足夠的數(shù)據(jù)和適合的工具，使用數(shù)據(jù)驅(qū)動的歸納法會帶給我意義重大的結(jié)論。

注意:在每個可以想到的領(lǐng)域——商業(yè)的、工業(yè)的以及政府的，成功的數(shù)據(jù)驅(qū)動的歸納模型都已經(jīng)存在，或正在建立。數(shù)據(jù)決策的模型越來越多地用來制定決策，如可以識別你的語音的智能手機，又如實施外科手術(shù)的機器人2，再如核爆炸的檢測。

1.1.2　釋放歸納的力量

無論你是否在這些領(lǐng)域中工作，醫(yī)療診斷、手寫體識別、市場、金融預(yù)測、生物信息學(xué)、經(jīng)濟學(xué)的領(lǐng)域，還是在其他任何要求經(jīng)驗分析的專業(yè)領(lǐng)域，你常常會面對這樣的情況，潛在的首要原則尚未發(fā)現(xiàn)，或正在研究的系統(tǒng)過于復(fù)雜，無法通過充分詳細(xì)的數(shù)學(xué)描述來提供有用的結(jié)果。我發(fā)現(xiàn)，數(shù)據(jù)驅(qū)動的歸納方法在以上所有情況中都有用，你也會認(rèn)同這一點。

注意:在科學(xué)之外，演繹分析可能在經(jīng)濟學(xué)學(xué)科中占據(jù)了頂峰地位，其中大部分的焦點（甚至今天也一樣）都圍繞著檢驗和評估演繹理論的經(jīng)濟學(xué)有效性。事實上，經(jīng)濟學(xué)家對理論進行客觀驗證的渴望催生了新的統(tǒng)計學(xué)子學(xué)科—計量經(jīng)濟學(xué)。

1.1.3　推斷的陰陽之道

盡管歸納和演繹的區(qū)別相當(dāng)大，但它們實際上也可以互補使用。對于一個研究者來說，計劃一個同時包含歸納元素和演繹元素的項目是非同尋常的。

如果你曾經(jīng)或長或短地從事過經(jīng)驗建模領(lǐng)域的工作，那你很可能發(fā)現(xiàn)這種情況：你計劃執(zhí)行一個歸納或演繹的項目，但沒想到隨著時間的推移，你又發(fā)現(xiàn)了其他更適合的方法來闡明你的研究問題。需要牢記的是，歸納方法或演繹方法的使用，部分地依賴于你的數(shù)據(jù)分析目標(biāo)。

注意：演繹推理優(yōu)越性的相對下降，可以部分地由數(shù)據(jù)驅(qū)動模型的高度成功來解釋。意大利學(xué)者馬特奧·帕爾多（Matteo Pardo）和喬治·斯貝沃格里尼（Giorgio Sberveglieri）在十多年前正確地觀察到6：“在當(dāng)前，從遵循首要原則的經(jīng)典建模到開發(fā)數(shù)據(jù)建模，發(fā)生了一種范式轉(zhuǎn)換?！庇腥さ氖?，需要注意，現(xiàn)在數(shù)據(jù)建模者的短缺是世界性的問題7。

1.2　學(xué)習(xí)問題的三大要素

我們的討論始于學(xué)習(xí)問題的基礎(chǔ)。例如，有監(jiān)督的分類問題，其中我們得到的數(shù)據(jù)是實值的屬性—響應(yīng)對（x，y）。三個元素組成了基本的學(xué)習(xí)問題。

1.3　從數(shù)據(jù)中學(xué)習(xí)的目標(biāo)

注意：

歸納偏置是數(shù)據(jù)科學(xué)實踐中的一個關(guān)鍵要素，正如倫敦經(jīng)濟學(xué)院的Jonathan Baxter的解釋8：“在機器學(xué)習(xí)中，可能最重要的事情就是學(xué)習(xí)機器假設(shè)空間的預(yù)先偏置，它要足夠小，以保證合理訓(xùn)練集的好的一般化（預(yù)測能力），也要足夠大，這樣它才能包含學(xué)習(xí)問題好的解決答案?！?

1.3.1　闡明選擇標(biāo)準(zhǔn)

1.3.2　學(xué)習(xí)任務(wù)的選擇

現(xiàn)在，我們的學(xué)習(xí)框架已經(jīng)準(zhǔn)備就緒，可以把注意力轉(zhuǎn)向我們作為數(shù)據(jù)科學(xué)家需要執(zhí)行的真實任務(wù)。相當(dāng)幸運，結(jié)果發(fā)現(xiàn)從數(shù)據(jù)中學(xué)習(xí)可以恰好分成3種基本類型的工作：

（1）類別決策邊界的分類或估計。例如，流水線上按大小和顏色分類的雞蛋。

（2）未知連續(xù)函數(shù)的回歸或估計。例如，預(yù)測本地音樂節(jié)創(chuàng)造的票房平均價值。

（3）概率密度的估計。例如，估計愛爾蘭沿海河流中白斑狗魚的密度。

本文將自始至終主要討論分類的問題，因為這是數(shù)據(jù)科學(xué)家面對的最頻繁的任務(wù)。但是，我們得出的經(jīng)驗教訓(xùn)適用于所有3種類型的任務(wù)。