建立數(shù)據(jù)場(chǎng)的七大技能

成為數(shù)據(jù)極客，建立自己的數(shù)據(jù)場(chǎng)需要哪些技能呢?遇到普通的數(shù)據(jù)，通過(guò)SQL做分析。如果數(shù)據(jù)量比較大，可以使用Hadoop等大數(shù)據(jù)框架處理。在深入挖掘上，可用Python或者R語(yǔ)言進(jìn)行編程。

01 數(shù)據(jù)極客

上回書說(shuō)到，數(shù)據(jù)科學(xué)家是具有數(shù)據(jù)相關(guān)的完整理論和知識(shí)的人，自然境界很高。做作一個(gè)普通的IT界碼農(nóng)，成為數(shù)據(jù)科學(xué)家需要漫長(zhǎng)的過(guò)程。那這個(gè)……，做不到數(shù)據(jù)科學(xué)家，我們還可以做個(gè)數(shù)據(jù)極客(Data Geek)嘛，挑戰(zhàn)數(shù)據(jù)極限，也是挑戰(zhàn)自己的極限。

那么，成為數(shù)據(jù)極客，建立自己的數(shù)據(jù)場(chǎng)需要哪些技能呢?且不說(shuō)那高深復(fù)雜的理論，僅從實(shí)用的角度來(lái)分析一下，建立數(shù)據(jù)場(chǎng)的七個(gè)方面。

02 七大技能

2.1 SQL與NoSQL技能

二維表格數(shù)據(jù)是最常用形式了，對(duì)二維數(shù)據(jù)的處理分析也是最基本的。傳統(tǒng)的SQL工具與大數(shù)據(jù)環(huán)境下的NoSQL工具中，以關(guān)系型的MySQL為代表，以文檔型的MongoDB為代表，以大數(shù)據(jù)環(huán)境下的Hive代表。這都是數(shù)據(jù)分析的基礎(chǔ)而強(qiáng)大利器，在很多場(chǎng)合下都能快速的解決問(wèn)題。

擴(kuò)展的，還會(huì)有內(nèi)存型數(shù)據(jù)庫(kù)Redis，圖數(shù)據(jù)庫(kù)Neo4j，還有全文索引的ElasticSearch和Solr，還有Hbase和Cassandra，這些根據(jù)具體的業(yè)務(wù)，選擇性的掌握其中一部分。

學(xué)到什么程度并無(wú)定論，重點(diǎn)在具體的數(shù)據(jù)環(huán)境下，不至于永遠(yuǎn)只知道MySQL這一個(gè)工具，在不同的場(chǎng)景，其它的數(shù)據(jù)庫(kù)能發(fā)揮出強(qiáng)大的優(yōu)勢(shì)。

總結(jié)起來(lái)說(shuō)，重點(diǎn)不是工具，而是數(shù)據(jù)。不僅要能處理結(jié)構(gòu)化數(shù)據(jù)，還要處理半結(jié)構(gòu)化數(shù)據(jù)，不僅能單機(jī)處理，還要在集群環(huán)境下處理。

2.2 Linux工具集

Shell, AWK, sed, grep等基本工具集，這是很多數(shù)據(jù)簡(jiǎn)單處理的得力助手，包含數(shù)據(jù)文件編碼，數(shù)據(jù)合并，數(shù)據(jù)拆分，數(shù)據(jù)規(guī)范，格式驗(yàn)證等等。

Linux腳本能力，簡(jiǎn)單服務(wù)配置能力，正則表達(dá)式能力，Vim或者Emacs編輯能力，文件系統(tǒng)常用操作命令，遠(yuǎn)程登錄ssh等等，這些都能快速的處理很多問(wèn)題。任何的分析或挖掘都會(huì)依托與一個(gè)系統(tǒng)，而Linux是其中最常用的，尤其是在服務(wù)器環(huán)境。熟悉一個(gè)系統(tǒng)，能讓自己的數(shù)據(jù)科學(xué)工作事半功倍。

簡(jiǎn)單的數(shù)據(jù)收集與處理，很多時(shí)候也會(huì)依賴于Linux系統(tǒng)或者基于其上的一系列工具，比如常用的Web服務(wù)器引擎Nginx及其產(chǎn)生的日志，常用的文件傳輸scp或者rsync，常用的定時(shí)任務(wù)crontab等等這些工具，穩(wěn)定又實(shí)用。

2.3 Python或者R語(yǔ)言生態(tài)

掌握一門分析專用語(yǔ)言，很有必要。其中以R語(yǔ)言和Python語(yǔ)言為代表。R起源于統(tǒng)計(jì)學(xué)，如今在數(shù)據(jù)科學(xué)領(lǐng)域也占有強(qiáng)大的陣地。Python更是一門完整的編程語(yǔ)言，不論是Web開發(fā)、自動(dòng)化運(yùn)維、云計(jì)算，還是數(shù)據(jù)科學(xué)領(lǐng)域，都有眾多的用戶。兩者在數(shù)據(jù)分析中都有完整的生態(tài)圈，而且其它環(huán)境對(duì)這兩者的支持也是非常好的。

無(wú)意于爭(zhēng)端，全看個(gè)人喜好。本人只熟悉Python這塊生態(tài)，因此只討論這一塊相關(guān)的。最為大眾熟悉的一些包為：Numpy，Scipy, Pandas和Scikit-learn，Keras，解決了從數(shù)據(jù)分析到機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的幾乎所有任務(wù)。

2.4 Hadoop與Spark生態(tài)

大數(shù)據(jù)平臺(tái)，無(wú)疑是以Hadoop和Spark為代表，無(wú)論在線處理還是離線分析。Hadoop比較適合離線處理。而在線處理中，Storm就是比較有名的。如果需要自己實(shí)現(xiàn)Map-Reduce或者對(duì)接數(shù)據(jù)之類的開發(fā)，編程語(yǔ)言中以Java和Scala為代表。

在線搜索相關(guān)，估計(jì)會(huì)用前面說(shuō)過(guò)的ElasticSearch或者Solr。當(dāng)然，區(qū)別于hadoop的Map-Reduce流程，Spark提供的彈性數(shù)據(jù)集RDD，能作用于RDD上的算子非常多，使得數(shù)據(jù)處理與分析更加方便。除此之外，Spark還提供了實(shí)時(shí)任務(wù)的Streaming，能實(shí)時(shí)的對(duì)數(shù)據(jù)進(jìn)行處理與獲取結(jié)果。還有Spark SQL功能，尤其以其中的DataFrame重為重要。另外，ML與MLlib也是分布式機(jī)器學(xué)習(xí)的重要部分。

Spark是Hadoop生態(tài)圈中的有力補(bǔ)充，并非替代品，如果要說(shuō)替代，那也只是替代了MapReduce分布式計(jì)算框架而已，分布式調(diào)試與管理依然用Yarn，文件系統(tǒng)依然會(huì)使用HDFS。

Hadoop發(fā)行版中，主要以三大廠商的Hadoop的為代表。Cloudera發(fā)行的CDH，Hortonworks發(fā)行的HDP，這兩個(gè)是目前各種大數(shù)據(jù)框架支持的主流，另外一家是修改了核心的MapR。

2.5 概率、統(tǒng)計(jì)與線性代數(shù)

對(duì)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)與分析，是需要統(tǒng)計(jì)學(xué)的基礎(chǔ)知識(shí)。另外，很多問(wèn)題都可以轉(zhuǎn)化為一個(gè)概率問(wèn)題，并不是要完全確定的結(jié)果，只要概率達(dá)滿足即可。概率論方面的主要是貝葉斯統(tǒng)計(jì)，隱馬爾可夫模型等之類的。這些都是深入理解算法的基礎(chǔ)。

對(duì)數(shù)據(jù)的運(yùn)算，很多時(shí)候就是直接矩陣運(yùn)算，而涉及矩陣的各種運(yùn)算也正是線性代數(shù)相關(guān)相關(guān)的問(wèn)題。

機(jī)器學(xué)習(xí)之所以有效，是因?yàn)槟Ｐ蛯?duì)數(shù)據(jù)的處理，最后都會(huì)變成一系列的數(shù)學(xué)優(yōu)化問(wèn)題，而且主要和凸優(yōu)化知識(shí)相關(guān)。機(jī)器學(xué)習(xí)的各種計(jì)算，都是和數(shù)學(xué)密切相關(guān)。除了上面的概率、統(tǒng)計(jì)與線性代數(shù)，還會(huì)和微積分有一定的關(guān)系。

當(dāng)然，但除非你深入研究算法的核心原理或者寫學(xué)術(shù)論文需要，也不要被數(shù)學(xué)嚇到了。在機(jī)器學(xué)習(xí)應(yīng)用過(guò)程中，并不會(huì)用到太多的數(shù)學(xué)知識(shí)。而且，也并不需要完全把上面這些課程學(xué)好了再來(lái)進(jìn)行機(jī)器學(xué)習(xí)。計(jì)算機(jī)基于數(shù)學(xué)，但應(yīng)用型的算法，并不需要特別深厚的數(shù)學(xué)功底。如果以前課程學(xué)得不好也沒有太大的關(guān)系，很多知識(shí)到了關(guān)鍵時(shí)刻再補(bǔ)一下也不遲。

2.6 機(jī)器學(xué)習(xí)與深度學(xué)習(xí)

數(shù)據(jù)挖掘與人工智能中和算法相關(guān)的部分，常用的分類算法，聚類算法是基礎(chǔ)。推廣開來(lái)，就是監(jiān)督算法與非監(jiān)督算法，監(jiān)督算法中，除了分類，還有回歸。非監(jiān)督算法中，除了聚類，還有數(shù)據(jù)降維，還有用于個(gè)性推薦的關(guān)聯(lián)規(guī)則。另外，專門處理自然語(yǔ)言的機(jī)器學(xué)習(xí)也即NLP，或者文本數(shù)據(jù)挖掘，是另外一個(gè)側(cè)重方向。

對(duì)算法的理解，需要前面的統(tǒng)計(jì)與概率等等數(shù)學(xué)知識(shí)，還需要結(jié)合編碼能力，最好能自己實(shí)現(xiàn)一些演示算法流程的Demo程序來(lái)輔助理解。實(shí)際應(yīng)用中，最好以第三方庫(kù)為準(zhǔn)，它們經(jīng)過(guò)大量人員的測(cè)試，無(wú)論是性能還是算法完整性上都會(huì)更好，自己實(shí)現(xiàn)的程序僅僅用于理解算法流程即可。除非你對(duì)算法理解很徹底，并且編碼能力也非常強(qiáng)，而且覺得現(xiàn)有的框架不能滿足你的使用。

除了算法及其參數(shù)調(diào)優(yōu)外，還有另外兩個(gè)重要的內(nèi)容，特征提取與模型評(píng)估。如何從原始數(shù)據(jù)中提取出用于算法的特征是很關(guān)鍵的。很多時(shí)候，不同算法在性能差異上并不明顯，但不同的特征提取方法，卻能產(chǎn)生比較大的差距。

在某種特征上應(yīng)用特定的算法，還需要做的就是模型評(píng)估，如果評(píng)估一個(gè)模型是好還是壞，在一定程度上也體現(xiàn)了機(jī)器學(xué)習(xí)是否有效的依據(jù)。在特征提取上，一個(gè)比較火熱的領(lǐng)域自然是深度學(xué)習(xí)了。源于多層神經(jīng)網(wǎng)絡(luò)，是一種非監(jiān)督的特征提取方法，更好的用于圖片、語(yǔ)音與視覺處理。值得一提的是，深度學(xué)習(xí)在很多地方的性能已經(jīng)超過(guò)傳統(tǒng)的機(jī)器學(xué)習(xí)算法。

2.7 業(yè)務(wù)及雜項(xiàng)

除上上面的純技術(shù)外，還有一些非技術(shù)上的技能。業(yè)務(wù)理解，商業(yè)洞察，溝通與交流能力，尤其以業(yè)務(wù)的理解能力為重要。數(shù)據(jù)是死的，無(wú)法更好的理解業(yè)務(wù)中的問(wèn)題，也就無(wú)法更好的利用現(xiàn)有數(shù)據(jù)，甚至無(wú)法更好的解讀其中的結(jié)論。

理解業(yè)務(wù)通常需要一些專業(yè)的領(lǐng)域知識(shí)，比如做網(wǎng)絡(luò)安全的，需要安全的一些基礎(chǔ)知識(shí);做電商的，需要理解其中各個(gè)指標(biāo)對(duì)當(dāng)前銷售的影響;做二手車估值的，需要對(duì)二手車殘值評(píng)估有一定的了解。

除了業(yè)務(wù)知識(shí)外，還需要一定的文檔與報(bào)表技能，比如Word、PPT與Markdown工具的使用，只有完整的文檔與良好的表達(dá)，才更好體現(xiàn)數(shù)據(jù)所展現(xiàn)出來(lái)的效果。

另外，英文能力與寫作也同樣重要，需要經(jīng)常閱讀一些英文文章。閱讀的主要目的，就是隨時(shí)更新自己的技能，擴(kuò)展知識(shí)面。而寫作，就是自己知識(shí)積累的一種方式，將紙上的東西，變成自己的技能。

03 結(jié)尾

這兒列出的七項(xiàng)主要技能，和上一篇文章的7大技能基本相同。對(duì)于高級(jí)信號(hào)處理，主要用于特征提取，個(gè)人感覺目前可能通過(guò)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)來(lái)解決，深度學(xué)習(xí)是專為解決特征提取的問(wèn)題而來(lái)。

七大技能，總結(jié)起來(lái)，就是熟悉一門Linux系統(tǒng)及其上的常用工具，遇到普通的數(shù)據(jù)，可以通過(guò)SQL來(lái)做簡(jiǎn)單分析或者聚合。如果數(shù)據(jù)量比較大，可以使用Hadoop等大數(shù)據(jù)框架處理。在深入挖掘上，可用Python或者R語(yǔ)言進(jìn)行編程，應(yīng)用以概率統(tǒng)計(jì)為支撐的機(jī)器學(xué)習(xí)算法。

要做好數(shù)據(jù)極客，只有在各種工具與技能基礎(chǔ)上，再加強(qiáng)自己的業(yè)務(wù)興趣點(diǎn)，配合個(gè)人的悟性而修行。果能如此，持之以恒，則天下定有你的天地。