數(shù)據(jù)挖掘從入門到進階 要看什么書

　做數(shù)據(jù)挖掘也有些年頭了，寫這篇文一方面是讓我寫篇文，朋友作為數(shù)據(jù)挖掘方面的參考，另一方面也是有拋磚引玉之意，希望能夠和一些大牛交流，相互促進，讓大家見笑了。

　　Q&A：

　　Q:學習,最近在看集體智慧編程,樓主可否推薦下數(shù)學基礎的書?

　　A:我數(shù)學本身也不好 自己也在偷偷補 因為看的不多也不能給出個提綱式的建議 只能給您列下我近期看過和在看的覺得不錯的書 您看做參考吧

　　矩陣方面 Kaare Brandt Petersen的《The Matrix Cookbook》 網(wǎng)易公開課中的《麻省理工公開課：線性代數(shù)》

　　2.概率論與數(shù)理統(tǒng)計方面 JohnA.Rice 的《數(shù)理統(tǒng)計與數(shù)據(jù)分析》《統(tǒng)計建模與R軟件》

　　3.微積分方面 網(wǎng)易公開課中的《麻省理工學院公開課：單變量微積分》

　　其實您只要有了

　　1、概率論與數(shù)理統(tǒng)計以及其他統(tǒng)計學基礎

　　2、扎實的線性代數(shù)功底

　　3、微積分（如果能學習下實變函數(shù)和泛函分析就更好了）

　　這幾方面的基礎 基本上機器學習的大部分算法您都具有了其數(shù)學基礎

　　如果您覺得我說的太泛 可以先看看《模式分類》這本書的附錄中的數(shù)學基礎 這樣您就大體有個印象了

　　入門：

　　數(shù)據(jù)挖掘入門的書籍，中文的大體有這些：

　　Jiawei Han的《數(shù)據(jù)挖掘概念與技術》

　　Ian H. Witten / Eibe Frank的《數(shù)據(jù)挖掘 實用機器學習技術》

　　Tom Mitchell的《機器學習》

　　TOBY SEGARAN的《集體智慧編程》

　　Anand Rajaraman的《大數(shù)據(jù)》

　　Pang-Ning Tan的《數(shù)據(jù)挖掘導論》

　　Matthew A. Russell的《社交網(wǎng)站的數(shù)據(jù)挖掘與分析》

　　很多人的第一本數(shù)據(jù)挖掘書都是Jiawei Han的《數(shù)據(jù)挖掘概念與技術》，這本書也是我們組老板推薦的入門書（我個人覺得他之所以推薦是因為Han是他的老師）。其實我個人來說并不是很推薦把這本書。這本書什么都講了，甚至很多書少有涉及的一些點比如OLAP的方面都有涉獵。但是其實這本書對于初學者不是那么友好的，給人一種教科書的感覺，如果你有大毅力讀完這本書，也只能獲得一些零碎的概念的認識，很難上手實際的項目。

　　　　我個人推薦的入門書是這兩本：TOBY SEGARAN的《集體智慧編程》和Ian H. Witten / Eibe Frank的《數(shù)據(jù)挖掘 實用機器學習技術》

　　《集體智慧編程》很適合希望了解數(shù)據(jù)挖掘技術的程序員，這本書講述了數(shù)據(jù)挖掘里面的很多實用的算法，而且最重要的是其講述的方式不是像Han那種大牛掉書袋的講法，而是從實際的例子入手，輔以python的代碼，讓你很快的就能理解到這種算法能夠應用在哪個實際問題上，并且還能自己上手寫寫代碼。唯一的缺點是不夠深入，基本沒有數(shù)學推導，而且不夠全面，內(nèi)容不夠翔實。不過作為一本入門書這些缺點反而是幫助理解和入門的優(yōu)點。

　　推薦的另一本《數(shù)據(jù)挖掘 實用機器學習技術》則相對上一本書要稍微難一點，不過在容易理解的程度上依然甩Han老師的書幾條街，其作者就是著名的Weka的編寫者。整本書的思想脈絡也是盡可能的由易到難，從簡單的模型入手擴展到現(xiàn)實生活中實際的算法問題，最難能可貴的是書的最后還稍微講了下如何使用weka，這樣大家就能在學習算法之余能夠用weka做做小的實驗，有直觀的認識。

　　看完上述兩本書后，我覺得大體數(shù)據(jù)挖掘就算有個初步的了解了。往后再怎么繼續(xù)入門，就看個人需求了。

　　如果是只是想要稍微了解下相關的技術，或者作為業(yè)余愛好，則可隨便再看看Anand Rajaraman的《大數(shù)據(jù)》以及Matthew A. Russell的《社交網(wǎng)站的數(shù)據(jù)挖掘與分析》。前者是斯坦福的”Web挖掘”這門課程的材料基礎上總結(jié)而成。選取了很多數(shù)據(jù)挖掘里的小點作為展開的，不夠系統(tǒng)，但講的挺好，所以適合有個初步的了解后再看。后者則亦是如此，要注意的是里面很多api因為GFS的緣故不能直接實驗，也是個遺憾

　　如果是繼續(xù)相關的研究學習，我認為則還需要先過一遍Tom Mitchell的《機器學習》。這本書可以看做是對于十多年前的機器學習的一個綜述，作者簡單明了的講述了很多流行的算法（十年前的），并且對于各個算法的適用點和特點都有詳細的解說，輕快地在一本薄薄的小書里給了大家一個機器學習之旅。

　　進階：

　　進階這個話題就難說了，畢竟大家對于進階的理解各有不同，是個仁者見仁的問題。就我個人來說，則建議如下展開：

　　視頻學習方面：

　　可以看看斯坦福的《機器學習》這門課程的視頻，最近聽說網(wǎng)易公開課已經(jīng)全部翻譯了，而且給出了雙語字幕，更加容易學習了^_^

　　書籍學習方面：

　　我個人推薦的是這樣：可以先看看李航的《統(tǒng)計學習方法》，這本書著重于數(shù)學推導，能讓我們很快的對于一些算法的理解更加深入。有了上面這本書的基礎，就可以開始啃一些經(jīng)典名著了。

　　這些名著看的順序可以不分先后，也可以同時學習：

　　Richard O. Duda的《模式分類》這本書是力薦，很多高校的數(shù)據(jù)挖掘導論課程的教科書便是這本（也是我的數(shù)據(jù)挖掘入門書，很有感情的）。如果你不通讀這本書，你會發(fā)現(xiàn)在你研究很多問題的時候，甚至一些相對簡單的問題（比如貝葉斯在高斯假設下為什么退化成線性分類器）都要再重新回頭讀這本書。

　　Christopher M. Bishop的《Pattern Recognition And Machine Learning》這本書也是經(jīng)典巨著，整本書寫的非常清爽。

　　The Elements of Statistical Learning》這本書豆友有句很好的吐槽“機器學習 — 從入門到精通”可以作為這本書的副標題?？梢钥闯鲞@本書對于機器學習進階的重要性。值得一說的是這本書雖然有中文版，但是翻譯之爛也甚是有名，聽說是學體育的翻譯的。

　　Hoppner, Frank的《Guide to Intelligent Data Analysis》這本書相對于上面基本經(jīng)典巨著并不出名，但是寫的甚好，是knime官網(wǎng)上推薦的，標榜的是解決實際生活中的數(shù)據(jù)挖掘問題，講述了CRISP-DM標準化流程，每章后面給出了R和knime的應用例子。

　　項目方面：

　　事實上，我覺得從進階起就應該上手一些簡單的項目了。如果不實踐只是看書和研究算法，我覺得是無法真正理解數(shù)據(jù)挖掘的精髓所在的。打個簡單的比方，就算你看完了C Primer、effective C 等等書籍，如果自己不寫C ，那么自己也就會停留在hello world的級別。實踐出真知非常切合數(shù)據(jù)挖掘這門學科，實際上手項目后才會發(fā)現(xiàn)什么叫”80%的準備，20%的建?！保瑀eal world的問題我認為并不是僅僅靠modeling就能很好的解決的。詳細的可以看看《Guide to Intelligent Data Analysis》就能略知一二。如果上手做推薦或者一些簡單的項目，也可以考慮用用mahout，推薦的入門手冊是《mahout in action》。項目問題說來話長，有時間會以CRISP流程為引單獨作文，這里也就不詳談了。

　　軟件方面：

　　我常用而且推薦的軟件有如下，這里只是簡單的列出，以后有時間再詳細分析和寫出入門：

　　Weka Java的軟件，可以集成到自己的項目中

　　Orange 一個用python寫的數(shù)據(jù)挖掘開源軟件，界面做的很漂亮，可以做圖形化實驗，也可以用python調(diào)用編程。

　　Knime 和Orange類似，特點是可以集成weka和R等開源軟件

　　SAS的EM模塊以及R 還有最最經(jīng)典的matlab大大

　　這里有篇文有簡要的介紹http://www.oschina.net/question/12_14026

　　再往后：

　　再往后的其實就是我就是覺得是學數(shù)學了，然后就是深入讀一些你感興趣的topic的書籍和paper，接項目，做項目了。發(fā)展有數(shù)據(jù)分析師或者去專門的企業(yè)做數(shù)據(jù)研究員，當然混學術界的我就不清楚了。

　　初略寫完發(fā)現(xiàn)成一篇長文了，最近也是在做一個用眼底照片預測stroke的項目，比較忙，等閑下來以后也會寫些算法或者軟件或者實際項目的心得的文。當然也只是我個人粗淺的想法，也希望能和大家有所交流，相互促進，我個人的郵箱是flclain@gmail.com，有什么問題可以再帖子里討論，也可郵件交流^_^