
文 | Matthew Mayo譯 | 王鵬宇
開始。這是最容易令人喪失斗志的兩個(gè)字。邁出第一步通常最艱難。當(dāng)可以選擇的方向太多時(shí),就更讓人兩腿發(fā)軟了。
從哪里開始?
本文旨在通過七個(gè)步驟,使用全部免費(fèi)的線上資料,幫助新人獲取最基本的 Python 機(jī)器學(xué)習(xí)知識(shí),直至成為博學(xué)的機(jī)器學(xué)習(xí)實(shí)踐者。這篇概述的主要目的是帶領(lǐng)讀者接觸眾多免費(fèi)的學(xué)習(xí)資源。這些資源有很多,但哪些是最好的?哪些相互補(bǔ)充?怎樣的學(xué)習(xí)順序才最好?
我假定本文的讀者不是以下任何領(lǐng)域的專家:
Python
任何 Python 的機(jī)器學(xué)習(xí)、科學(xué)計(jì)算、數(shù)據(jù)分析庫(kù)
如果你有前兩個(gè)領(lǐng)域其一或全部的基礎(chǔ)知識(shí),可能會(huì)很有幫助,但這些也不是必需的。在下面幾個(gè)步驟中的前幾項(xiàng)多花點(diǎn)時(shí)間就可以彌補(bǔ)。
第一步:基本的 Python 技能
首先要安裝 Python 。由于我們要使用機(jī)器學(xué)習(xí)和科學(xué)計(jì)算的 packages ,這里建議安裝 Anaconda。Anaconda 是一個(gè)可在 Linux , OSX , Windows 上運(yùn)行的 Python 實(shí)現(xiàn)工具,擁有所需的機(jī)器學(xué)習(xí) packages ,包括 numpy,scikit-learn,matplotlib。它還包含 iPython Notebook ,一個(gè)帶有許多教程的交互式環(huán)境。這里推薦使用 Python 2.7 ,不是因?yàn)樘厥庠?,只是因?yàn)樗悄壳鞍惭b版本中的主流。
如果你之前沒有編程知識(shí),建議你閱讀這本免費(fèi)電子書,然后再接觸其他學(xué)習(xí)材料:
Python The Hard Way 作者Zed A. Shaw(http://learnpythonthehardway.org/book/)
如果你之前有編程知識(shí),但不是 Python 的,又或者你的 Python 水平很基礎(chǔ),推薦下列一種或幾種教程:
Google Developers Python Course(https://www.youtube.com/playlist?list=PLfZeRfzhgQzTMgwFVezQbnpc1ck0I6CQl)(強(qiáng)烈推薦給視覺型學(xué)習(xí)者)
An Introduction to Python for Scientific Computing (from UCSB Engineering) 作者 M. Scott Shell (http://www.engr.ucsb.edu/~shell/che210d/python.pdf)(一個(gè)很好的 Python 科學(xué)計(jì)算簡(jiǎn)介,60 頁(yè))
對(duì)于想要速成課程的人,這里有:
Learn X in Y Minutes (X = Python)(https://learnxinyminutes.com/docs/python/)
當(dāng)然,如果你是個(gè)經(jīng)驗(yàn)豐富的 Python 程序員,可以跳過這一步。盡管如此,還是建議你把通俗易懂的 Python documentation (https://www.python.org/doc/)放在手邊。
第二步:機(jī)器學(xué)習(xí)基礎(chǔ)技能
KDnuggets 的 Zachary Lipton 指出,人們對(duì)于“數(shù)據(jù)科學(xué)家”的認(rèn)知千差萬(wàn)別。這實(shí)際上是對(duì)機(jī)器學(xué)習(xí)領(lǐng)域的反映。數(shù)據(jù)科學(xué)家在不同程度上使用計(jì)算學(xué)習(xí)算法。要建立和使用支持向量機(jī)模型,熟知核函數(shù)方法是否是必需的?(https://en.wikipedia.org/wiki/Kernel_method)答案當(dāng)然不是。就像現(xiàn)實(shí)生活中的許多事情一樣,所需要的理論深入程度與具體的實(shí)際應(yīng)用有關(guān)。獲取對(duì)機(jī)器學(xué)習(xí)算法的深入理解不是本文的討論范圍, 而且這通常需要在學(xué)術(shù)領(lǐng)域投入大量時(shí)間,或者至少要通過密集的自學(xué)才能達(dá)到。
好消息是,你不必?fù)碛胁┦考?jí)別的機(jī)器學(xué)習(xí)理論能力才能進(jìn)行實(shí)踐,就如同不是所有程序員都必須接受計(jì)算機(jī)理論教育才能寫好代碼。
吳恩達(dá)在 Coursera 的課程飽受贊譽(yù)。但我的建議是去看看一名以前的學(xué)生做的筆記。略過那些針對(duì) Octave(一個(gè)與 Python 無關(guān)的,類 Matlab 語(yǔ)言)的內(nèi)容。需要注意,這些不是“官方”的筆記,雖然看起來的確抓住了吳恩達(dá)課程材料的相關(guān)內(nèi)容。如果你有時(shí)間,可以自己去 Coursera 完成這個(gè)課程 :Andrew Ng's Machine Learning course(https://www.coursera.org/learn/machine-learning) 。
非官方課程筆記鏈接(http://www.holehouse.org/mlclass/)
除了吳恩達(dá)的課程以外,還有很多其他視頻教程。我是Tom Mitchell的粉絲,下面是他(與Maria-Florina Balcan共同完成的)最新的課程視頻,對(duì)學(xué)習(xí)者非常友好:
Tom Mitchell Machine Learning Lectures(http://www.cs.cmu.edu/~ninamf/courses/601sp15/lectures.shtml)
你不需要現(xiàn)在看完全部的筆記和視頻。比較好的策略是向前推進(jìn),去做下面的練習(xí),需要的時(shí)候再查閱筆記和視頻。比如,你要做一個(gè)回歸模型,就可以去查閱吳恩達(dá)課程有關(guān)回歸的筆記以及/或者 Mitchell 的視頻。
第三步:科學(xué)計(jì)算 Python packages 一覽
好了?,F(xiàn)在我們有了 Python 編程經(jīng)驗(yàn),并對(duì)機(jī)器學(xué)習(xí)有所了解。Python 有很多為機(jī)器學(xué)習(xí)提供便利的開源庫(kù)。通常它們被稱為 Python 科學(xué)庫(kù)(scientific Python libraries),用以執(zhí)行基本的數(shù)據(jù)科學(xué)任務(wù)(這里有一點(diǎn)程度主觀色彩):
numpy(http://www.numpy.org/) - 主要用于N維數(shù)組
pandas (http://pandas.pydata.org/)- Python數(shù)據(jù)分析庫(kù),包含dataframe等結(jié)構(gòu)
matplotlib(http://matplotlib.org/) - 2D繪圖庫(kù),產(chǎn)出質(zhì)量足以進(jìn)行印刷的圖
scikit-learn (http://scikit-learn.org/stable/)- 數(shù)據(jù)分析、數(shù)據(jù)挖掘任務(wù)使用的機(jī)器學(xué)習(xí)算法
學(xué)習(xí)以上這些內(nèi)容可以使用:
Scipy Lecture Notes 作者 Gaêl Varoquaux, Emmanuelle Gouillart, Olav Vahtras
下面這個(gè)pandas教程也不錯(cuò),貼近主題:
10 Minutes to Pandas(http://pandas.pydata.org/pandas-docs/stable/10min.html)
在后面的教程中你會(huì)看到其他一些packages,比如包括Seaborn,一個(gè)基于matplotlib的可視化庫(kù)。前面提到的packages (再次承認(rèn)具有一定主觀色彩)是許多Python機(jī)器學(xué)習(xí)任務(wù)的核心工具。不過,理解它們也可以讓你在之后的教程中更好理解其他相關(guān)packages。
好了,現(xiàn)在到了有意思的部分.....
第四步:開始用 Python 進(jìn)行機(jī)器學(xué)習(xí)
Python。搞定。
機(jī)器學(xué)習(xí)基礎(chǔ)。搞定。
Numpy。搞定。
Pandas。搞定。
Matplotlib。搞定。
是時(shí)候用 Python 的標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)庫(kù),scikit-learn,實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法了。
scikit-learn 算法選擇圖
下面許多教程和練習(xí)都基于交互式環(huán)境 iPython (Jupyter) Notebook。這些iPython Notebooks 有些可以在網(wǎng)上觀看,有些可以下載到本地電腦。
iPython Notebook概覽(http://cs231n.github.io/ipython-tutorial/) 斯坦福大學(xué)
也請(qǐng)注意下面的資源來自網(wǎng)絡(luò)。所有資源屬于作者。如果出于某種原因,你發(fā)現(xiàn)有作者沒有被提及,請(qǐng)告知我,我會(huì)盡快改正。在此特別要向Jake VanderPlas,Randal Olson,Donne Martin,Kevin Markham,Colin Raffel致敬,感謝他們提供的優(yōu)秀免費(fèi)資源。
下面是 scikit-learn 的入門教程。在進(jìn)行下一個(gè)步驟之前,推薦做完下列全部教程。
對(duì)于 scikit-learn 的整體介紹,它是 Python 最常用的通用機(jī)器學(xué)習(xí)庫(kù),包含 knn 最近鄰算法:
An Introduction to scikit-learn 作者 Jake VanderPlas(http://cs231n.github.io/ipython-tutorial/)
更深入更寬泛的介紹,包含一個(gè)新手項(xiàng)目,從頭到尾使用一個(gè)著名的數(shù)據(jù)集:·
Example Machine Learning Notebook 作者 Randal Olson(http://nbviewer.ipython.org/github/rhiever/Data-Analysis-and-Machine-Learning-Projects/blob/master/example-data-science-notebook/Example%20Machine%20Learning%20Notebook.ipynb)
專注于 scikit-learn 中評(píng)估不同模型的策略,涉及訓(xùn)練集/測(cè)試集拆分:
Model Evaluation 作者 Kevin Markham(https://github.com/justmarkham/scikit-learn-videos/blob/master/05_model_evaluation.ipynb)
第五步:Python機(jī)器學(xué)習(xí)主題
在 scikit-learn 打下基礎(chǔ)以后,我們可以探索更多有用的常見算法。讓我們從最知名的機(jī)器學(xué)習(xí)算法之一,k-means聚類開始。對(duì)于無監(jiān)督學(xué)習(xí)問題,k-means通常簡(jiǎn)單有效:
k-means Clustering 作者 Jake VanderPlas(https://github.com/jakevdp/sklearn_pycon2015/blob/master/notebooks/04.2-Clustering-KMeans.ipynb)
接下來是分類,讓我們看看史上最流行的分類方法之一,決策樹:
Decision Trees (http://thegrimmscientist.com/2014/10/23/tutorial-decision-trees/)via The Grimm Scientist(http://thegrimmscientist.com/)
分類之后,是連續(xù)數(shù)字變量的預(yù)測(cè):
Linear Regression 作者 Jake VanderPlas(http://nbviewer.ipython.org/github/donnemartin/data-science-ipython-notebooks/blob/master/scikit-learn/scikit-learn-linear-reg.ipynb)
通過邏輯斯蒂回歸,我們可以用回歸解決分類問題:
Logistic Regression 作者Kevin Markham(http://nbviewer.ipython.org/github/justmarkham/gadsdc1/blob/master/logistic_assignment/kevin_logistic_sklearn.ipynb)
第六步:Python 高級(jí)機(jī)器學(xué)習(xí)
接觸過 scikit-learn,現(xiàn)在讓我們把注意力轉(zhuǎn)向更高級(jí)的內(nèi)容。首先是支持向量機(jī),一個(gè)無需線性的分類器,它依賴復(fù)雜的數(shù)據(jù)轉(zhuǎn)換,把數(shù)據(jù)投向高維空間。
Support Vector Machines 作者 Jake VanderPlas(https://github.com/jakevdp/sklearn_pycon2015/blob/master/notebooks/03.1-Classification-SVMs.ipynb)
接下來是隨機(jī)森林,一種集成分類器。下面的教程通過 Kaggle Titanic Competition(https://www.kaggle.com/c/titanic)講解。
Kaggle Titanic Competition (with Random Forests) 作者 Donne Martin(http://nbviewer.ipython.org/github/donnemartin/data-science-ipython-notebooks/blob/master/kaggle/titanic.ipynb)
降維是一種減少問題涉及的變量數(shù)目的方法。PCA 主成分分析是一種無監(jiān)督學(xué)習(xí)降維的特殊形式:
Dimensionality Reduction 作者 Jake VanderPlas(https://github.com/jakevdp/sklearn_pycon2015/blob/master/notebooks/04.1-Dimensionality-PCA.ipynb)
在開始下一步之前,可以暫停一下,回想我們?cè)诙潭痰臅r(shí)間已經(jīng)走了多遠(yuǎn)。
通過使用 Python 和它的機(jī)器學(xué)習(xí)庫(kù),我們涵蓋了一些最常用最知名的機(jī)器學(xué)習(xí)算法( knn 最近鄰,k-means 聚類,支持向量機(jī)),了解了一種強(qiáng)有力的集成方法(隨機(jī)森林),涉及了一些其他機(jī)器學(xué)習(xí)支持方案(降維,模型驗(yàn)證技巧)。在一些基礎(chǔ)機(jī)器學(xué)習(xí)的技巧的幫助下,我們開始有了一個(gè)漸漸豐富的工具箱。
在結(jié)束以前,讓我們給工具箱增加一個(gè)需求很大的工具:
第七步 :Python 深度學(xué)習(xí)
學(xué)習(xí),深深地。
到處都在深度學(xué)習(xí)!深度學(xué)習(xí)基于過去幾十年的神經(jīng)網(wǎng)絡(luò)研究,但最近幾年的發(fā)展大大增加了深度神經(jīng)網(wǎng)絡(luò)的能力和對(duì)于它的興趣。如果你不熟悉深度學(xué)習(xí),KDnuggets (http://www.kdnuggets.com/?s=deep+learning)有許多文章 ,詳細(xì)介紹最近的進(jìn)展、成果,以及對(duì)這項(xiàng)技術(shù)的贊譽(yù)。
本文的最后一部分并不想成為某種深度學(xué)習(xí)示范教程。我們會(huì)關(guān)注基于兩個(gè) Python 深度學(xué)習(xí)庫(kù)的簡(jiǎn)單應(yīng)用。對(duì)于想了解更多的讀者,我推薦下面這本免費(fèi)在線書:
Neural Networks and Deep Learning 作者 Michael Nielsen (http://neuralnetworksanddeeplearning.com/)
Theano
Theano 是我們關(guān)注的第一個(gè) Python 深度學(xué)習(xí)庫(kù)。根據(jù)作者所說:
作為一個(gè) Python 庫(kù),Theano 讓你可以有效定義、優(yōu)化、評(píng)估包含多維數(shù)組的數(shù)學(xué)表達(dá)式。
下面的 Theano 深度學(xué)習(xí)教程很長(zhǎng),但非常不錯(cuò),描述詳細(xì),有大量評(píng)論:
Theano Deep Learning Tutorial 作者 Colin Raffel (http://nbviewer.ipython.org/github/craffel/theano-tutorial/blob/master/Theano%20Tutorial.ipynb)
Caffe
我們關(guān)注的另一個(gè)庫(kù)是 Caffe。根據(jù)它的作者所說:
Caffe 是一個(gè)深度學(xué)習(xí)框架。開發(fā)過程中時(shí)刻考慮著表達(dá)式、速度、模型。 它是由 Berkeley Vision and Learning Center (BVLC) 和社區(qū)貢獻(xiàn)者共同開發(fā)的。
這個(gè)教程是本文的壓軸。盡管上面列舉了一些有趣的案例,沒有那個(gè)比得上下面這個(gè):用 Caffe 實(shí)現(xiàn) Google的#DeepDream。希望你喜歡!理解這個(gè)教程以后,盡情玩樂,讓你的處理器開始自己做夢(mèng)吧。
Dreaming Deep with Caffe(https://github.com/google/deepdream/blob/master/dream.ipynb) via Google's GitHub(https://github.com/google)
我不敢保證 Python 機(jī)器學(xué)習(xí)是速成的或簡(jiǎn)單的。但只要投入時(shí)間,遵循這七個(gè)步驟,你無疑會(huì)對(duì)于這個(gè)領(lǐng)域擁有足夠的熟練度和理解,會(huì)使用流行的 Python庫(kù)實(shí)現(xiàn)許多機(jī)器學(xué)習(xí)算法,甚至當(dāng)今深度學(xué)習(xí)領(lǐng)域的前沿內(nèi)容。
作者簡(jiǎn)介: Matthew Mayo 是一名計(jì)算機(jī)專業(yè)的研究生。他目前在從事并行機(jī)器學(xué)習(xí)算法方面的論文工作。同時(shí)他也是一個(gè)數(shù)據(jù)挖掘學(xué)習(xí)者,數(shù)據(jù)愛好者,立志成為機(jī)器學(xué)習(xí)科學(xué)家。
end
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03