大數(shù)據(jù)分析重大 計算方法選擇需慎重_數(shù)據(jù)分析師考試

大數(shù)據(jù)分析依靠機(jī)器學(xué)習(xí)和大規(guī)模計算，對規(guī)模巨大的數(shù)據(jù)進(jìn)行分析。作為時下最火熱的IT行業(yè)的詞匯，數(shù)據(jù)倉庫、數(shù)據(jù)安全、數(shù)據(jù)分析、數(shù)據(jù)挖掘等等圍繞大數(shù)據(jù)的商業(yè)價值的利用逐漸成為行業(yè)人士爭相追捧的利潤焦點(diǎn)。大數(shù)據(jù)時代的來臨，大數(shù)據(jù)分析應(yīng)運(yùn)而生。

　　安聯(lián)全球救援長期從事道路救援已有12年，利用大數(shù)據(jù)分析科學(xué)分析救援?dāng)?shù)據(jù)，在第一時間內(nèi)合理調(diào)配救援資源，并在最短時間內(nèi)通知相關(guān)部門展開對應(yīng)的援助。2015年7月6日，安聯(lián)全球救援在北京慶祝在華第500萬個成功道路救援案例誕生。在過去的12年里，安聯(lián)全球救援投入了大量資金和資源在全國范圍內(nèi)建立專業(yè)服務(wù)網(wǎng)絡(luò)，并分別在北京和成都設(shè)立運(yùn)營中心，其網(wǎng)絡(luò)覆蓋全國1762個城市，平均服務(wù)到達(dá)時間為39分鐘。利用大數(shù)據(jù)分析，大大提高了道路救援效率。

　　那么大數(shù)據(jù)分析究竟是怎么樣？那些方法更有效？我們該如何利用起來呢？

　　大數(shù)據(jù)分析可以分為五個基本方面：

　　1.可視化分析（Analytic Visualizations）——不管是對數(shù)據(jù)分析專家還是普通用戶，數(shù)據(jù)可視化是數(shù)據(jù)分析工具最基本的要求。可視化可以直觀的展示數(shù)據(jù)，讓數(shù)據(jù)自己說話，讓觀眾聽到結(jié)果。

　　2.數(shù)據(jù)挖掘算法（Data Mining Algorithms）——可視化是給人看的，數(shù)據(jù)挖掘就是給機(jī)器看的。集群、分割、孤立點(diǎn)分析還有其他的算法讓我們深入數(shù)據(jù)內(nèi)部，挖掘價值。這些算法不僅要處理大數(shù)據(jù)的量，也要處理大數(shù)據(jù)的速度。

　　3.預(yù)測性分析能力（Predictive Analytic Capabilities）——數(shù)據(jù)挖掘可以讓分析員更好的理解數(shù)據(jù)，而預(yù)測性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測性的判斷。

　　4.義引擎（Semantic Engines）——我們知道由于非結(jié)構(gòu)化數(shù)據(jù)的多樣性帶來了數(shù)據(jù)分析的新的挑戰(zhàn)，我們需要一系列的工具去解析，提取，分析數(shù)據(jù)。語義引擎需要被設(shè)計成能夠從“文檔”中智能提取信息。

　　5.數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理（Data Qualityand Master Data Management）——數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理是一些管理方面的最佳實(shí)踐。通過標(biāo)準(zhǔn)化的流程和工具對數(shù)據(jù)進(jìn)行處理可以保證一個預(yù)先定義好的高質(zhì)量的分析結(jié)果。

　　大數(shù)據(jù)分析方法的選擇

　　大數(shù)據(jù)分析性能的好壞，也就是說機(jī)器學(xué)習(xí)預(yù)測的準(zhǔn)確率，與使用的學(xué)習(xí)算法、問題的性質(zhì)、數(shù)據(jù)集的特性包括數(shù)據(jù)規(guī)模、數(shù)據(jù)特征等都有關(guān)系。一般地，Ensemble方法包括Random Forest和Ada Boost、SVM、Logistic Regression分類準(zhǔn)確率最高。沒有一種方法可以“包打天下”。RandomForest、SVM等方法一般性能最好，但不是在什么條件下性能都最好。

　　不同的方法，當(dāng)數(shù)據(jù)規(guī)模小的時候，性能往往有較大差異，但當(dāng)數(shù)據(jù)規(guī)模增大時，性能都會逐漸提升且差異逐漸減小。也就是說，在大數(shù)據(jù)條件下，什么方法都能work的不錯。對于簡單問題，Random Forest、SVM等方法基本可行，但是對于復(fù)雜問題，比如語音識別、圖像識別，最近流行的深度學(xué)習(xí)方法往往效果更好。深度學(xué)習(xí)本質(zhì)是復(fù)雜模型學(xué)習(xí)，是今后研究的重點(diǎn)。

　　在實(shí)際應(yīng)用中，要提高分類的準(zhǔn)確率，選擇特征比選擇算法更重要。好的特征會帶來更好的分類結(jié)果，而好的特征的提取需要對問題的深入理解。

　　大數(shù)據(jù)分析策略分析

　　建立大數(shù)據(jù)分析平臺時，選擇實(shí)現(xiàn)若干種有代表性的方法即可。當(dāng)然，不僅要考慮預(yù)測的準(zhǔn)確率，還有考慮學(xué)習(xí)效率、開發(fā)成本、模型可讀性等其他因素。大數(shù)據(jù)分析平臺固然重要，同時需要有一批能夠深入理解應(yīng)用問題，自如使用分析工具的工程師和分析人員。

　　只有善工利器，大數(shù)據(jù)分析才能真正發(fā)揮威力。