從某種程度上說，大數(shù)據(jù)是數(shù)據(jù)分析的前沿技術(shù)。簡言之，從各種各樣類型的數(shù)據(jù)中，快速獲得有價(jià)值信息的能力，就是大數(shù)據(jù)技術(shù)。明白這一點(diǎn)至關(guān)重要，也正是這一點(diǎn)促使該技術(shù)具備走向眾多企業(yè)的潛力。

大數(shù)據(jù)給互聯(lián)網(wǎng)帶來的是空前的信息大爆炸，它不僅改變了互聯(lián)網(wǎng)的數(shù)據(jù)應(yīng)用模式，還將深深影響著人們的生產(chǎn)生活。深處在大數(shù)據(jù)時(shí)代中的人們，已經(jīng)認(rèn)識到大數(shù)據(jù)已經(jīng)將數(shù)據(jù)分析的認(rèn)識從“向后分析”變成“向前分析”，改變了人們的思維模式，但同時(shí)大數(shù)據(jù)也向我們提出了數(shù)據(jù)采集、分析和使用等難題。在解決了這些難題的同時(shí)，也意味著大數(shù)據(jù)開始向縱深方向發(fā)展。

大數(shù)據(jù)可分成大數(shù)據(jù)技術(shù)、大數(shù)據(jù)工程、大數(shù)據(jù)科學(xué)和大數(shù)據(jù)應(yīng)用等領(lǐng)域。目前人們談?wù)撟疃嗟氖谴髷?shù)據(jù)技術(shù)和大數(shù)據(jù)應(yīng)用。工程和科學(xué)問題尚未被重視。大數(shù)據(jù)工程指大數(shù)據(jù)的規(guī)劃建設(shè)運(yùn)營管理的系統(tǒng)工程;大數(shù)據(jù)科學(xué)關(guān)注大數(shù)據(jù)網(wǎng)絡(luò)發(fā)展和運(yùn)營過程中發(fā)現(xiàn)和驗(yàn)證大數(shù)據(jù)的規(guī)律及其與自然和社會活動(dòng)之間的關(guān)系。

1、大數(shù)據(jù)統(tǒng)計(jì)分析的意義

近年來，包括互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計(jì)算等信息技術(shù)在內(nèi)的IT通信業(yè)迅速發(fā)展，數(shù)據(jù)的快速增長成了許多行業(yè)共同面對的嚴(yán)峻挑戰(zhàn)和寶貴機(jī)遇，因此現(xiàn)代信息社會已經(jīng)進(jìn)入了大數(shù)據(jù)時(shí)代。事實(shí)上，大數(shù)據(jù)改變的不只是人們的日常生活和工作模式、企業(yè)運(yùn)作和經(jīng)營模式，甚至還引起科學(xué)研究模式的根本性改變。

一般意義上，大數(shù)據(jù)是指無法在一定時(shí)間內(nèi)用常規(guī)機(jī)器和軟硬件工具對其進(jìn)行感知、獲取、管理、處理和服務(wù)的數(shù)據(jù)集合。網(wǎng)絡(luò)大數(shù)據(jù)是指“人、機(jī)、物”三元世界在網(wǎng)絡(luò)空間中彼此交互與融合所產(chǎn)生并在互聯(lián)網(wǎng)上可獲得的大數(shù)據(jù)。將數(shù)據(jù)應(yīng)用到生活生產(chǎn)中，可以有效地幫助人們或企業(yè)對信息作出比較準(zhǔn)確的判斷，以便采取適當(dāng)行動(dòng)。數(shù)據(jù)分析是組織有目的地收集數(shù)據(jù)、分析數(shù)據(jù)，并使之成為信息的過程。也就是指個(gè)人或者企業(yè)為了解決生活生產(chǎn)中的決策或者營銷等問題，運(yùn)用分析方法對數(shù)據(jù)進(jìn)行處理的過程。

所謂的數(shù)據(jù)統(tǒng)計(jì)分析，馬海祥認(rèn)為就是運(yùn)用統(tǒng)計(jì)學(xué)的方法對數(shù)據(jù)進(jìn)行處理。在以往的市場調(diào)研工作中，數(shù)據(jù)統(tǒng)計(jì)分析能夠幫助我們挖掘出數(shù)據(jù)中隱藏的信息，但是這種數(shù)據(jù)的分析是“向后分析”，分析的是已經(jīng)發(fā)生過的事情。而在大數(shù)據(jù)中，數(shù)據(jù)的統(tǒng)計(jì)分析是“向前分析”，它具有預(yù)見性。

2、大數(shù)據(jù)的可視化分析

數(shù)據(jù)是結(jié)構(gòu)化的，包括原始數(shù)據(jù)中的關(guān)系數(shù)據(jù)庫，其數(shù)據(jù)就是半結(jié)構(gòu)化的，譬如我們熟知的文本、圖形、圖像數(shù)據(jù)，同時(shí)也包括了網(wǎng)絡(luò)的不同構(gòu)型的數(shù)據(jù)。通過對各種數(shù)據(jù)的分析，就可以清晰的發(fā)現(xiàn)不同類型的知識結(jié)構(gòu)和內(nèi)容，包括反映表征的、帶有普遍性的廣義型知識;用于反映數(shù)據(jù)的匯聚模式或根據(jù)對象的屬性區(qū)分其所屬類別的特征型知識;差異和極端特例進(jìn)行描述的差異型知識;反映一個(gè)事件和其他事件之間依賴或關(guān)聯(lián)的關(guān)聯(lián)型知識。關(guān)于這點(diǎn)，我曾在馬海祥博客的《如何做好一個(gè)產(chǎn)品的市場調(diào)研和數(shù)據(jù)分析》一文中體現(xiàn)出來了。

根據(jù)當(dāng)前歷史和當(dāng)前數(shù)據(jù)預(yù)測未來數(shù)據(jù)的預(yù)測型知識。當(dāng)前已經(jīng)出現(xiàn)了許多知識發(fā)現(xiàn)的新技術(shù)，其中之一就是可視化方法。數(shù)據(jù)可視化技術(shù)有3個(gè)鮮明的特點(diǎn)：

(1)、與用戶的交互性強(qiáng)。用戶不再是信息傳播中的受者，還可以方便地以交互的方式管理和開發(fā)數(shù)據(jù)。

(2)、數(shù)據(jù)顯示的多維性。在可視化的分析下，數(shù)據(jù)將每一維的值分類、排序、組合和顯示，這樣就可以看到表示對象或事件的數(shù)據(jù)的多個(gè)屬性或變量。

(3)、最直觀的可視性特點(diǎn)。數(shù)據(jù)可以用圖像、曲線、二維圖形、三維體和動(dòng)畫來顯示,并可對其模式和相互關(guān)系進(jìn)行可視化分析。

3、數(shù)據(jù)挖掘算法

數(shù)據(jù)挖掘是指數(shù)據(jù)庫中的知識發(fā)現(xiàn)，其歷史可以追溯到1989年美國底特律市召開的第一屆KDD國際學(xué)術(shù)會議上，而第一屆知識發(fā)現(xiàn)和數(shù)據(jù)挖掘(Data Mining，DM)國際學(xué)術(shù)會議是1995年加拿大召開的，會議上將數(shù)據(jù)庫里存放的數(shù)據(jù)生動(dòng)地比擬成礦床，從而“數(shù)據(jù)挖掘”這個(gè)名詞很快就流傳開來。數(shù)據(jù)挖掘的目的是在雜亂無章的數(shù)據(jù)庫中，從大量數(shù)據(jù)中找到有用的、合適的數(shù)據(jù)，并將其隱含的、不為人知的潛在價(jià)值的信息揭示出來的過程。事實(shí)上，數(shù)據(jù)挖掘只是整個(gè)KDD過程中的一個(gè)步驟。

數(shù)據(jù)挖掘的定義沒有統(tǒng)一的說法，其中“數(shù)據(jù)挖掘是一個(gè)從不完整的、不明確的、大量的并且包含噪聲的具有很大隨機(jī)性的實(shí)際應(yīng)用數(shù)據(jù)中，提取出隱含其中、事先未被人們獲知、卻潛在有用的知識或模式的過程”是被廣泛接受的定義。

事實(shí)上，馬海祥覺得該定義中所包含的信息——大量真實(shí)的數(shù)據(jù)源包含著噪聲;滿足用戶的需求的新知識;被理解接受的而且有效運(yùn)用的知識;挖掘出的知識并不要求適用于所有領(lǐng)域，可以僅支持某個(gè)特定的應(yīng)用發(fā)現(xiàn)問題。

以上這些特點(diǎn)都表現(xiàn)了它對數(shù)據(jù)處理的作用，在有效處理海量且無序的數(shù)據(jù)時(shí)，還能夠發(fā)現(xiàn)隱藏在這些數(shù)據(jù)中的有用的知識，最終為決策服務(wù)。從技術(shù)這個(gè)角度來說，數(shù)據(jù)挖掘就是利用一系列相關(guān)算法和技術(shù)從大量的數(shù)據(jù)中提取出為人們所需要的信息和知識，隱藏在數(shù)據(jù)背后的知識，可以以概念、模式、規(guī)律和規(guī)則等形式呈現(xiàn)出來。

4、大數(shù)據(jù)技術(shù)的預(yù)測性分析

預(yù)測性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測性的判斷。大數(shù)據(jù)分析最終要實(shí)現(xiàn)的應(yīng)用領(lǐng)域之一就是預(yù)測性分析，可視化分析和數(shù)據(jù)挖掘都是前期鋪墊工作，只要在大數(shù)據(jù)中挖掘出信息的特點(diǎn)與聯(lián)系，就可以建立科學(xué)的數(shù)據(jù)模型，通過模型帶入新的數(shù)據(jù)，從而預(yù)測未來的數(shù)據(jù)。作為數(shù)據(jù)挖掘的一個(gè)子集，內(nèi)存計(jì)算效率驅(qū)動(dòng)預(yù)測分析，帶來實(shí)時(shí)分析和洞察力，使實(shí)時(shí)事務(wù)數(shù)據(jù)流得到更快速的處理。實(shí)時(shí)事務(wù)的數(shù)據(jù)處理模式能夠加強(qiáng)企業(yè)對信息的監(jiān)控，也便于企業(yè)的業(yè)務(wù)管理和信息更新流通。

此外，大數(shù)據(jù)的預(yù)測分析能力，能夠幫助企業(yè)分析未來的數(shù)據(jù)信息，有效規(guī)避風(fēng)險(xiǎn)。在通過大數(shù)據(jù)的預(yù)測性分析之后，無論是個(gè)人還是企業(yè)，都可以比之前更好地理解和管理大數(shù)據(jù)。對此大家可以通過馬海祥博客的《解讀2013年大數(shù)據(jù)應(yīng)用與趨勢的調(diào)研》相關(guān)介紹來具體了解。

盡管當(dāng)前大數(shù)據(jù)的發(fā)展趨勢良好，但網(wǎng)絡(luò)大數(shù)據(jù)對于存儲系統(tǒng)、傳輸系統(tǒng)和計(jì)算系統(tǒng)都提出了很多苛刻的要求，現(xiàn)有的數(shù)據(jù)中心技術(shù)很難滿足網(wǎng)絡(luò)大數(shù)據(jù)的需求。因此，科學(xué)技術(shù)的進(jìn)步與發(fā)展對大數(shù)據(jù)的支持起著重要的作用，大數(shù)據(jù)的革命需要考慮對IT行業(yè)進(jìn)行革命性的重構(gòu)。網(wǎng)絡(luò)大數(shù)據(jù)平臺(包括計(jì)算平臺、傳輸平臺、存儲平臺等)是網(wǎng)絡(luò)大數(shù)據(jù)技術(shù)鏈條中的瓶頸，特別是網(wǎng)絡(luò)大數(shù)據(jù)的高速傳輸，需要革命性的新技術(shù)。

此外，既然在大數(shù)據(jù)時(shí)代，任何數(shù)據(jù)都是有價(jià)值的，那么這些有價(jià)值的數(shù)據(jù)就成為了賣點(diǎn)，導(dǎo)致爭奪和侵害的發(fā)生。事實(shí)上，只要有數(shù)據(jù)，就必然存在安全與隱私的問題。隨著大數(shù)據(jù)時(shí)代的到來，網(wǎng)絡(luò)數(shù)據(jù)的增多，使得個(gè)人數(shù)據(jù)面臨著重大的風(fēng)險(xiǎn)和威脅，因此，網(wǎng)絡(luò)需要制定更多合理的規(guī)定以保證網(wǎng)絡(luò)環(huán)境的安全。

5、大數(shù)據(jù)的應(yīng)用

眾所周知，企業(yè)數(shù)據(jù)本身就蘊(yùn)藏著價(jià)值，但是將有用的數(shù)據(jù)與沒有價(jià)值的數(shù)據(jù)進(jìn)行區(qū)分看起來可能是一個(gè)棘手的問題。但是屢見不鮮的是，很多公司仍然只是將信息簡單堆在一起，僅將其當(dāng)作為滿足公司治理規(guī)則而必須要保存的信息加以處理，而不是將它們作為戰(zhàn)略轉(zhuǎn)變的工具。

畢竟，數(shù)據(jù)和人員是業(yè)務(wù)部門僅有的兩筆無法被競爭對手復(fù)制的財(cái)富。在善用的人手中，好的數(shù)據(jù)是所有管理決策的基礎(chǔ)，帶來的是對客戶的深入了解和競爭優(yōu)勢。數(shù)據(jù)是業(yè)務(wù)部門的生命線，必須讓數(shù)據(jù)在決策和行動(dòng)時(shí)無縫且安全地流到人們手中。

所以，數(shù)據(jù)應(yīng)該隨時(shí)為決策提供依據(jù)。有些人會說，數(shù)據(jù)中蘊(yùn)含的價(jià)值只能由專業(yè)人員來解讀。但馬海祥卻不完全贊同這個(gè)觀點(diǎn)，在馬海祥認(rèn)為數(shù)據(jù)的價(jià)值在于將正確的信息在正確的時(shí)間交付到正確的人手中。未來將屬于那些能夠駕馭所擁有數(shù)據(jù)的公司，這些數(shù)據(jù)與公司自身的業(yè)務(wù)和客戶相關(guān)，通過對數(shù)據(jù)的利用，發(fā)現(xiàn)新的洞見，幫助他們找出競爭優(yōu)勢。

大數(shù)據(jù)分析是商業(yè)智能的演進(jìn)。當(dāng)今，傳感器、GPS系統(tǒng)、QR碼、社交網(wǎng)絡(luò)等正在創(chuàng)建新的數(shù)據(jù)流。所有這些都可以得到發(fā)掘，正是這種真正廣度和深度的信息在創(chuàng)造不勝枚舉的機(jī)會。要使大數(shù)據(jù)言之有物，以便讓大中小企業(yè)都能通過更加貼近客戶的方式取得競爭優(yōu)勢，數(shù)據(jù)集成和數(shù)據(jù)管理是核心所在。

有的時(shí)候，我們應(yīng)該將這種復(fù)雜性看成是一種機(jī)會而不是問題。處理方法時(shí)，產(chǎn)生的數(shù)據(jù)越多，結(jié)果就會越成熟可靠。在如今的大數(shù)據(jù)時(shí)代中，最靈活和成功的企業(yè)將會是那些善用大機(jī)遇的公司。