數(shù)據(jù)分析入門方法論

關(guān)于數(shù)據(jù)分析，最重要的是思路和方法論，無論是什么工具，最終的輸出無非就是：

有價值的結(jié)論（對應(yīng)分析報告）

有價值的決策過程（對應(yīng)機(jī)器學(xué)習(xí)模型）

從提出問題入手，例如流量、留存率、新增用戶為什么發(fā)生變化，練習(xí)如何解決問題：

你會提出哪些假設(shè)？

如何驗證這些假設(shè)？（統(tǒng)計方法）

如何取數(shù)？（SQL / Hive / Spark）

如何清洗和整理數(shù)據(jù)？（R / Python Pandas / PySpark）

如何可視化？（Excel / FinBI / R ggplot2 / Python matplotlib / Spark Zeppelin）

以怎樣的方式展示給非技術(shù)人員？（PowerPoint / Tableau / FinBI / iPython Notebook / R Markdown）

如何提出假設(shè)？

問題的發(fā)現(xiàn)常常是基于常理或者過往經(jīng)驗，所以提出假設(shè)的方式大多也是從經(jīng)驗事實出發(fā)。比如根據(jù)你研究問題的需要，你需要驗證哪個需求結(jié)論，以及你自己也可以提出基于事實層面上的基本假設(shè)。例如用戶（UV）上升，但是流量反而減少，UV一般是跟隨著流量成正相關(guān)的。所以這里不是流量這塊除了問題就是用戶這邊出現(xiàn)新情況。

假設(shè)是流量的問題，流量來源于渠道，是否是減少了某些效果差的渠道而專注于一些優(yōu)質(zhì)渠道，帶來了這樣好的結(jié)果。

如果是用戶問題，用戶數(shù)的增長是新用戶還是老用戶帶來的，如果都有，各占多少分成。

當(dāng)然，還得排除一些技術(shù)問題，是否是統(tǒng)計口徑出現(xiàn)了問題。

如何驗證這些假設(shè)？

將每一種假設(shè)都列舉在紙上，每一條都細(xì)分，根據(jù)主題的類似性做出分類，同一類型的假設(shè)，按照可能性依次排列，建立金字塔模型。同一層級劃分維度，比如時間、地區(qū)等其他屬性，構(gòu)建模型。

如何取數(shù)？

SQL是最基本的數(shù)據(jù)庫語言，無論從什么數(shù)據(jù)庫、數(shù)據(jù)倉庫、大數(shù)據(jù)平臺取數(shù)，都需要掌握。

Hive和Spark都是基于大數(shù)據(jù)的，Hive可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，通過類SQL語句快速實現(xiàn)簡單的MapReduce統(tǒng)計。

清洗和處理數(shù)據(jù)

沒有高質(zhì)量的數(shù)據(jù)，就沒有高質(zhì)量的挖掘結(jié)果，有時候分毫之差就會影響結(jié)果的判斷。原始數(shù)據(jù)出現(xiàn)不一致、重復(fù)、不完整（感興趣的屬性沒有值）、存在錯誤或異常（偏離期望值）的數(shù)據(jù)。這些都可通過

數(shù)據(jù)清洗：去掉噪聲和無關(guān)數(shù)據(jù)

數(shù)據(jù)集成：將多個數(shù)據(jù)源中的數(shù)據(jù)結(jié)合起來存放在一個一致的數(shù)據(jù)存儲中

數(shù)據(jù)變換：把原始數(shù)據(jù)轉(zhuǎn)換成為適合數(shù)據(jù)挖掘的形式

數(shù)據(jù)歸約：數(shù)據(jù)立方體聚集，維歸約，數(shù)據(jù)壓縮，數(shù)值歸約，離散化和概念分層等

可視化&展示

分析的結(jié)論要用合適的方式表達(dá)，可視化工具是最后一步也是不可或缺的工具。

如果使用常規(guī)Excel或者傳統(tǒng)報表工具，可以將做成的圖表貼至PPT中，涉及Excel的高級功能，就需要學(xué)習(xí)VBA和數(shù)據(jù)透視表，但Excel適合已經(jīng)處理好的成品數(shù)據(jù)。一旦涉及大數(shù)據(jù)量或頻繁鏈接數(shù)據(jù)庫，一些帶有接口的數(shù)據(jù)可視化工具或報表工具就比較適合。

最后，從提出問題到輸出結(jié)論，作為數(shù)據(jù)分析師的你可能使用各種工具，具體要使用哪一種可根據(jù)具體情況而定。