七步精通Python機(jī)器學(xué)習(xí)_數(shù)據(jù)分析師

開(kāi)始。這是最容易令人喪失斗志的兩個(gè)字。邁出第一步通常最艱難。當(dāng)可以選擇的方向太多時(shí)，就更讓人兩腿發(fā)軟了。

從哪里開(kāi)始？

本文旨在通過(guò)七個(gè)步驟，使用全部免費(fèi)的線上資料，幫助新人獲取最基本的 Python 機(jī)器學(xué)習(xí)知識(shí)，直至成為博學(xué)的機(jī)器學(xué)習(xí)實(shí)踐者。這篇概述的主要目的是帶領(lǐng)讀者接觸眾多免費(fèi)的學(xué)習(xí)資源。這些資源有很多，但哪些是最好的？哪些相互補(bǔ)充？怎樣的學(xué)習(xí)順序才最好？

我假定本文的讀者不是以下任何領(lǐng)域的專家：

? 機(jī)器學(xué)習(xí)
? Python
? 任何 Python 的機(jī)器學(xué)習(xí)、科學(xué)計(jì)算、數(shù)據(jù)分析庫(kù)

如果你有前兩個(gè)領(lǐng)域其一或全部的基礎(chǔ)知識(shí)，可能會(huì)很有幫助，但這些也不是必需的。在下面幾個(gè)步驟中的前幾項(xiàng)多花點(diǎn)時(shí)間就可以彌補(bǔ)。

第一步：基本的 Python 技能

首先要安裝 Python 。由于我們要使用機(jī)器學(xué)習(xí)和科學(xué)計(jì)算的 packages ，這里建議安裝 Anaconda。Anaconda 是一個(gè)可在 Linux , OSX , Windows 上運(yùn)行的 Python 實(shí)現(xiàn)工具，擁有所需的機(jī)器學(xué)習(xí) packages ，包括 numpy，scikit-learn，matplotlib。它還包含 iPython Notebook ，一個(gè)帶有許多教程的交互式環(huán)境。這里推薦使用 Python 2.7 ，不是因?yàn)樘厥庠颍皇且驗(yàn)樗悄壳鞍惭b版本中的主流。

如果你之前沒(méi)有編程知識(shí)，建議你閱讀這本免費(fèi)電子書(shū)，然后再接觸其他學(xué)習(xí)材料：
? Python The Hard Way 作者Zed A. Shaw

如果你之前有編程知識(shí)，但不是 Python 的，又或者你的 Python 水平很基礎(chǔ)，推薦下列一種或幾種教程：
? Google Developers Python Course(強(qiáng)烈推薦給視覺(jué)型學(xué)習(xí)者）

? An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (一個(gè)很好的 Python 科學(xué)計(jì)算簡(jiǎn)介，60 頁(yè))

對(duì)于想要速成課程的人，這里有：
? Learn X in Y Minutes (X = Python)
當(dāng)然，如果你是個(gè)經(jīng)驗(yàn)豐富的 Python 程序員，可以跳過(guò)這一步。盡管如此，還是建議你把通俗易懂的 Python documentation 放在手邊。

第二步：機(jī)器學(xué)習(xí)基礎(chǔ)技能

KDnuggets 的 Zachary Lipton 指出，人們對(duì)于“數(shù)據(jù)科學(xué)家”的認(rèn)知千差萬(wàn)別。這實(shí)際上是對(duì)機(jī)器學(xué)習(xí)領(lǐng)域的反映。數(shù)據(jù)科學(xué)家在不同程度上使用計(jì)算學(xué)習(xí)算法。要建立和使用支持向量機(jī)模型，熟知核函數(shù)方法是否是必需的？答案當(dāng)然不是。就像現(xiàn)實(shí)生活中的許多事情一樣，所需要的理論深入程度與具體的實(shí)際應(yīng)用有關(guān)。獲取對(duì)機(jī)器學(xué)習(xí)算法的深入理解不是本文的討論范圍， 而且這通常需要在學(xué)術(shù)領(lǐng)域投入大量時(shí)間，或者至少要通過(guò)密集的自學(xué)才能達(dá)到。

好消息是，你不必?fù)碛胁┦考?jí)別的機(jī)器學(xué)習(xí)理論能力才能進(jìn)行實(shí)踐，就如同不是所有程序員都必須接受計(jì)算機(jī)理論教育才能寫(xiě)好代碼。

吳恩達(dá)在 Coursera 的課程飽受贊譽(yù)。但我的建議是去看看一名以前的學(xué)生做的筆記。略過(guò)那些針對(duì) Octave（一個(gè)與 Python 無(wú)關(guān)的，類 Matlab 語(yǔ)言）的內(nèi)容。需要注意，這些不是“官方”的筆記，雖然看起來(lái)的確抓住了吳恩達(dá)課程材料的相關(guān)內(nèi)容。如果你有時(shí)間，可以自己去 Coursera 完成這個(gè)課程 ：Andrew Ng's Machine Learning course 。
? 非官方課程筆記鏈接

除了吳恩達(dá)的課程以外，還有很多其他視頻教程。我是Tom Mitchell的粉絲，下面是他（與Maria-Florina Balcan共同完成的）最新的課程視頻，對(duì)學(xué)習(xí)者非常友好：

? Tom Mitchell Machine Learning Lectures

你不需要現(xiàn)在看完全部的筆記和視頻。比較好的策略是向前推進(jìn)，去做下面的練習(xí)，需要的時(shí)候再查閱筆記和視頻。比如，你要做一個(gè)回歸模型，就可以去查閱吳恩達(dá)課程有關(guān)回歸的筆記以及/或者 Mitchell 的視頻。

第三步：科學(xué)計(jì)算 Python packages 一覽

好了?，F(xiàn)在我們有了 Python 編程經(jīng)驗(yàn)，并對(duì)機(jī)器學(xué)習(xí)有所了解。Python 有很多為機(jī)器學(xué)習(xí)提供便利的開(kāi)源庫(kù)。通常它們被稱為 Python 科學(xué)庫(kù)（scientific Python libraries），用以執(zhí)行基本的數(shù)據(jù)科學(xué)任務(wù)（這里有一點(diǎn)程度主觀色彩）：

? numpy - 主要用于N維數(shù)組

? pandas - Python數(shù)據(jù)分析庫(kù)，包含dataframe等結(jié)構(gòu)

? matplotlib - 2D繪圖庫(kù)，產(chǎn)出質(zhì)量足以進(jìn)行印刷的圖

? scikit-learn - 數(shù)據(jù)分析、數(shù)據(jù)挖掘任務(wù)使用的機(jī)器學(xué)習(xí)算法

學(xué)習(xí)以上這些內(nèi)容可以使用：

? Scipy Lecture Notes 作者 Ga?l Varoquaux， Emmanuelle Gouillart， Olav Vahtras

下面這個(gè)pandas教程也不錯(cuò)，貼近主題：

? 10 Minutes to Pandas

在后面的教程中你會(huì)看到其他一些packages，比如包括Seaborn，一個(gè)基于matplotlib的可視化庫(kù)。前面提到的packages （再次承認(rèn)具有一定主觀色彩）是許多Python機(jī)器學(xué)習(xí)任務(wù)的核心工具。不過(guò)，理解它們也可以讓你在之后的教程中更好理解其他相關(guān)packages。

好了，現(xiàn)在到了有意思的部分.....

第四步：開(kāi)始用 Python 進(jìn)行機(jī)器學(xué)習(xí)

Python。搞定。

機(jī)器學(xué)習(xí)基礎(chǔ)。搞定。

Numpy。搞定。

Pandas。搞定。

Matplotlib。搞定。

是時(shí)候用 Python 的標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)庫(kù)，scikit-learn，實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法了。

scikit-learn 算法選擇圖

下面許多教程和練習(xí)都基于交互式環(huán)境 iPython (Jupyter) Notebook。這些iPython Notebooks 有些可以在網(wǎng)上觀看，有些可以下載到本地電腦。
? iPython Notebook概覽 斯坦福大學(xué)

也請(qǐng)注意下面的資源來(lái)自網(wǎng)絡(luò)。所有資源屬于作者。如果出于某種原因，你發(fā)現(xiàn)有作者沒(méi)有被提及，請(qǐng)告知我，我會(huì)盡快改正。在此特別要向Jake VanderPlas，Randal Olson，Donne Martin，Kevin Markham，Colin Raffel致敬，感謝他們提供的優(yōu)秀免費(fèi)資源。

下面是 scikit-learn 的入門教程。在進(jìn)行下一個(gè)步驟之前，推薦做完下列全部教程。

對(duì)于 scikit-learn 的整體介紹，它是 Python 最常用的通用機(jī)器學(xué)習(xí)庫(kù)，包含 knn 最近鄰算法：
? An Introduction to scikit-learn 作者 Jake VanderPlas

更深入更寬泛的介紹，包含一個(gè)新手項(xiàng)目，從頭到尾使用一個(gè)著名的數(shù)據(jù)集：
? Example Machine Learning Notebook 作者 Randal Olson

專注于 scikit-learn 中評(píng)估不同模型的策略，涉及訓(xùn)練集/測(cè)試集拆分：
? Model Evaluation 作者 Kevin Markham

第五步：Python機(jī)器學(xué)習(xí)主題

在 scikit-learn 打下基礎(chǔ)以后，我們可以探索更多有用的常見(jiàn)算法。讓我們從最知名的機(jī)器學(xué)習(xí)算法之一，k-means聚類開(kāi)始。對(duì)于無(wú)監(jiān)督學(xué)習(xí)問(wèn)題，k-means通常簡(jiǎn)單有效：
? k-means Clustering 作者 Jake VanderPlas

接下來(lái)是分類，讓我們看看史上最流行的分類方法之一，決策樹(shù)：
? Decision Trees via The Grimm Scientist

分類之后，是連續(xù)數(shù)字變量的預(yù)測(cè)：
? Linear Regression 作者 Jake VanderPlas

通過(guò)邏輯斯蒂回歸，我們可以用回歸解決分類問(wèn)題：
? Logistic Regression 作者Kevin Markham

第六步：Python 高級(jí)機(jī)器學(xué)習(xí)

接觸過(guò) scikit-learn，現(xiàn)在讓我們把注意力轉(zhuǎn)向更高級(jí)的內(nèi)容。首先是支持向量機(jī)，一個(gè)無(wú)需線性的分類器，它依賴復(fù)雜的數(shù)據(jù)轉(zhuǎn)換，把數(shù)據(jù)投向高維空間。

? Support Vector Machines 作者 Jake VanderPlas

接下來(lái)是隨機(jī)森林，一種集成分類器。下面的教程通過(guò) Kaggle Titanic Competition講解。
? Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin

降維是一種減少問(wèn)題涉及的變量數(shù)目的方法。PCA 主成分分析是一種無(wú)監(jiān)督學(xué)習(xí)降維的特殊形式：
? Dimensionality Reduction?作者 Jake VanderPlas

在開(kāi)始下一步之前，可以暫停一下，回想我們?cè)诙潭痰臅r(shí)間已經(jīng)走了多遠(yuǎn)。
通過(guò)使用 Python 和它的機(jī)器學(xué)習(xí)庫(kù)，我們涵蓋了一些最常用最知名的機(jī)器學(xué)習(xí)算法（ knn 最近鄰，k-means 聚類，支持向量機(jī)），了解了一種強(qiáng)有力的集成方法（隨機(jī)森林），涉及了一些其他機(jī)器學(xué)習(xí)支持方案（降維，模型驗(yàn)證技巧）。在一些基礎(chǔ)機(jī)器學(xué)習(xí)的技巧的幫助下，我們開(kāi)始有了一個(gè)漸漸豐富的工具箱。

在結(jié)束以前，讓我們給工具箱增加一個(gè)需求很大的工具：

第七步 ：Python 深度學(xué)習(xí) 

學(xué)習(xí)，深深地。

到處都在深度學(xué)習(xí)！深度學(xué)習(xí)基于過(guò)去幾十年的神經(jīng)網(wǎng)絡(luò)研究，但最近幾年的發(fā)展大大增加了深度神經(jīng)網(wǎng)絡(luò)的能力和對(duì)于它的興趣。如果你不熟悉深度學(xué)習(xí)，KDnuggets 有許多文章 ，詳細(xì)介紹最近的進(jìn)展、成果，以及對(duì)這項(xiàng)技術(shù)的贊譽(yù)。

本文的最后一部分并不想成為某種深度學(xué)習(xí)示范教程。我們會(huì)關(guān)注基于兩個(gè) Python 深度學(xué)習(xí)庫(kù)的簡(jiǎn)單應(yīng)用。對(duì)于想了解更多的讀者，我推薦下面這本免費(fèi)在線書(shū)：
? Neural Networks and Deep Learning 作者 Michael Nielsen

Theano
Theano 是我們關(guān)注的第一個(gè) Python 深度學(xué)習(xí)庫(kù)。根據(jù)作者所說(shuō)：

作為一個(gè) Python 庫(kù)，Theano 讓你可以有效定義、優(yōu)化、評(píng)估包含多維數(shù)組的數(shù)學(xué)表達(dá)式。

下面的 Theano 深度學(xué)習(xí)教程很長(zhǎng)，但非常不錯(cuò)，描述詳細(xì)，有大量評(píng)論：
? Theano Deep Learning Tutorial 作者 Colin Raffel

Caffe
我們關(guān)注的另一個(gè)庫(kù)是 Caffe。根據(jù)它的作者所說(shuō)：

Caffe 是一個(gè)深度學(xué)習(xí)框架。開(kāi)發(fā)過(guò)程中時(shí)刻考慮著表達(dá)式、速度、模型。 它是由 Berkeley Vision and Learning Center (BVLC) 和社區(qū)貢獻(xiàn)者共同開(kāi)發(fā)的。

這個(gè)教程是本文的壓軸。盡管上面列舉了一些有趣的案例，沒(méi)有那個(gè)比得上下面這個(gè)：用 Caffe 實(shí)現(xiàn) Google的#DeepDream。希望你喜歡！理解這個(gè)教程以后，盡情玩樂(lè)，讓你的處理器開(kāi)始自己做夢(mèng)吧。
? Dreaming Deep with Caffe via Google's GitHub

我不敢保證 Python 機(jī)器學(xué)習(xí)是速成的或簡(jiǎn)單的。但只要投入時(shí)間，遵循這七個(gè)步驟，你無(wú)疑會(huì)對(duì)于這個(gè)領(lǐng)域擁有足夠的熟練度和理解，會(huì)使用流行的 Python庫(kù)實(shí)現(xiàn)許多機(jī)器學(xué)習(xí)算法，甚至當(dāng)今深度學(xué)習(xí)領(lǐng)域的前沿內(nèi)