大數(shù)據(jù)分析重大 計(jì)算方法選擇需慎重_數(shù)據(jù)分析師考試

大數(shù)據(jù)分析依靠機(jī)器學(xué)習(xí)和大規(guī)模計(jì)算，對(duì)規(guī)模巨大的數(shù)據(jù)進(jìn)行分析。作為時(shí)下最火熱的IT行業(yè)的詞匯，數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)安全、數(shù)據(jù)分析、數(shù)據(jù)挖掘等等圍繞大數(shù)據(jù)的商業(yè)價(jià)值的利用逐漸成為行業(yè)人士爭(zhēng)相追捧的利潤(rùn)焦點(diǎn)。大數(shù)據(jù)時(shí)代的來(lái)臨，大數(shù)據(jù)分析應(yīng)運(yùn)而生。

　　安聯(lián)全球救援長(zhǎng)期從事道路救援已有12年，利用大數(shù)據(jù)分析科學(xué)分析救援?dāng)?shù)據(jù)，在第一時(shí)間內(nèi)合理調(diào)配救援資源，并在最短時(shí)間內(nèi)通知相關(guān)部門(mén)展開(kāi)對(duì)應(yīng)的援助。2015年7月6日，安聯(lián)全球救援在北京慶祝在華第500萬(wàn)個(gè)成功道路救援案例誕生。在過(guò)去的12年里，安聯(lián)全球救援投入了大量資金和資源在全國(guó)范圍內(nèi)建立專(zhuān)業(yè)服務(wù)網(wǎng)絡(luò)，并分別在北京和成都設(shè)立運(yùn)營(yíng)中心，其網(wǎng)絡(luò)覆蓋全國(guó)1762個(gè)城市，平均服務(wù)到達(dá)時(shí)間為39分鐘。利用大數(shù)據(jù)分析，大大提高了道路救援效率。

　　那么大數(shù)據(jù)分析究竟是怎么樣？那些方法更有效？我們?cè)撊绾卫闷饋?lái)呢？

　　大數(shù)據(jù)分析可以分為五個(gè)基本方面：

　　1.可視化分析（Analytic Visualizations）——不管是對(duì)數(shù)據(jù)分析專(zhuān)家還是普通用戶(hù)，數(shù)據(jù)可視化是數(shù)據(jù)分析工具最基本的要求?？梢暬梢灾庇^的展示數(shù)據(jù)，讓數(shù)據(jù)自己說(shuō)話(huà)，讓觀眾聽(tīng)到結(jié)果。

　　2.數(shù)據(jù)挖掘算法（Data Mining Algorithms）——可視化是給人看的，數(shù)據(jù)挖掘就是給機(jī)器看的。集群、分割、孤立點(diǎn)分析還有其他的算法讓我們深入數(shù)據(jù)內(nèi)部，挖掘價(jià)值。這些算法不僅要處理大數(shù)據(jù)的量，也要處理大數(shù)據(jù)的速度。

　　3.預(yù)測(cè)性分析能力（Predictive Analytic Capabilities）——數(shù)據(jù)挖掘可以讓分析員更好的理解數(shù)據(jù)，而預(yù)測(cè)性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測(cè)性的判斷。

　　4.義引擎（Semantic Engines）——我們知道由于非結(jié)構(gòu)化數(shù)據(jù)的多樣性帶來(lái)了數(shù)據(jù)分析的新的挑戰(zhàn)，我們需要一系列的工具去解析，提取，分析數(shù)據(jù)。語(yǔ)義引擎需要被設(shè)計(jì)成能夠從“文檔”中智能提取信息。

　　5.數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理（Data Qualityand Master Data Management）——數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理是一些管理方面的最佳實(shí)踐。通過(guò)標(biāo)準(zhǔn)化的流程和工具對(duì)數(shù)據(jù)進(jìn)行處理可以保證一個(gè)預(yù)先定義好的高質(zhì)量的分析結(jié)果。

　　大數(shù)據(jù)分析方法的選擇

　　大數(shù)據(jù)分析性能的好壞，也就是說(shuō)機(jī)器學(xué)習(xí)預(yù)測(cè)的準(zhǔn)確率，與使用的學(xué)習(xí)算法、問(wèn)題的性質(zhì)、數(shù)據(jù)集的特性包括數(shù)據(jù)規(guī)模、數(shù)據(jù)特征等都有關(guān)系。一般地，Ensemble方法包括Random Forest和Ada Boost、SVM、Logistic Regression分類(lèi)準(zhǔn)確率最高。沒(méi)有一種方法可以“包打天下”。RandomForest、SVM等方法一般性能最好，但不是在什么條件下性能都最好。

　　不同的方法，當(dāng)數(shù)據(jù)規(guī)模小的時(shí)候，性能往往有較大差異，但當(dāng)數(shù)據(jù)規(guī)模增大時(shí)，性能都會(huì)逐漸提升且差異逐漸減小。也就是說(shuō)，在大數(shù)據(jù)條件下，什么方法都能work的不錯(cuò)。對(duì)于簡(jiǎn)單問(wèn)題，Random Forest、SVM等方法基本可行，但是對(duì)于復(fù)雜問(wèn)題，比如語(yǔ)音識(shí)別、圖像識(shí)別，最近流行的深度學(xué)習(xí)方法往往效果更好。深度學(xué)習(xí)本質(zhì)是復(fù)雜模型學(xué)習(xí)，是今后研究的重點(diǎn)。

　　在實(shí)際應(yīng)用中，要提高分類(lèi)的準(zhǔn)確率，選擇特征比選擇算法更重要。好的特征會(huì)帶來(lái)更好的分類(lèi)結(jié)果，而好的特征的提取需要對(duì)問(wèn)題的深入理解。

　　大數(shù)據(jù)分析策略分析

　　建立大數(shù)據(jù)分析平臺(tái)時(shí)，選擇實(shí)現(xiàn)若干種有代表性的方法即可。當(dāng)然，不僅要考慮預(yù)測(cè)的準(zhǔn)確率，還有考慮學(xué)習(xí)效率、開(kāi)發(fā)成本、模型可讀性等其他因素。大數(shù)據(jù)分析平臺(tái)固然重要，同時(shí)需要有一批能夠深入理解應(yīng)用問(wèn)題，自如使用分析工具的工程師和分析人員。

　　只有善工利器，大數(shù)據(jù)分析才能真正發(fā)揮威力。