“大數(shù)據(jù)”與“海量數(shù)據(jù)”的區(qū)別

如果僅僅是海量的結(jié)構(gòu)性數(shù)據(jù)，那么解決的辦法就比較的單一，用戶通過(guò)購(gòu)買更多的存儲(chǔ)設(shè)備，提高存儲(chǔ)設(shè)備的效率等解決此類問(wèn)題。然而，當(dāng)人們發(fā)現(xiàn)數(shù)據(jù)庫(kù)中的數(shù)據(jù)可以分為三種類型：結(jié)構(gòu)性數(shù)據(jù)、非結(jié)構(gòu)性數(shù)據(jù)以及半結(jié)構(gòu)性數(shù)據(jù)等復(fù)雜情況時(shí)，問(wèn)題似乎就沒(méi)有那么簡(jiǎn)單了。

大數(shù)據(jù)洶涌來(lái)襲

當(dāng)類型復(fù)雜的數(shù)據(jù)洶涌襲來(lái)，那么對(duì)于用戶IT系統(tǒng)的沖擊又會(huì)是另外一種處理方式。很多業(yè)內(nèi)專家和第三方調(diào)查機(jī)構(gòu)通過(guò)一些市場(chǎng)調(diào)查數(shù)據(jù)發(fā)現(xiàn)，大數(shù)據(jù)時(shí)代即將到來(lái)。有調(diào)查發(fā)現(xiàn)，這些復(fù)雜數(shù)據(jù)中有85%的數(shù)據(jù)屬于廣泛存在于社交網(wǎng)絡(luò)、物聯(lián)網(wǎng)、電子商務(wù)等之中的非結(jié)構(gòu)化數(shù)據(jù)。這些非結(jié)構(gòu)化數(shù)據(jù)的產(chǎn)生往往伴隨著社交網(wǎng)絡(luò)、移動(dòng)計(jì)算和傳感器等新的渠道和技術(shù)的不斷涌現(xiàn)和應(yīng)用。

如今大數(shù)據(jù)的概念也存在著很多的炒作和大量的不確定性。為此，編者詳細(xì)向一些業(yè)內(nèi)專家詳細(xì)了解有關(guān)方面的問(wèn)題，請(qǐng)他們談一談，大數(shù)據(jù)是什么和不是什么，以及如何應(yīng)對(duì)大數(shù)據(jù)等問(wèn)題，將系列文章的形式與網(wǎng)友見(jiàn)面。

有人將多TB數(shù)據(jù)集也稱作"大數(shù)據(jù)"。據(jù)市場(chǎng)研究公司IDC統(tǒng)計(jì)，數(shù)據(jù)使用預(yù)計(jì)將增長(zhǎng)44倍，全球數(shù)據(jù)使用量將達(dá)到大約35.2ZB（1ZB = 10億TB）。然而，單個(gè)數(shù)據(jù)集的文件尺寸也將增加，導(dǎo)致對(duì)更大處理能力的需求以便分析和理解這些數(shù)據(jù)集。

EMC曾經(jīng)表示，它的1000多個(gè)客戶在其陣列中使用1PB（千兆兆）以上的數(shù)據(jù)數(shù)據(jù)，這個(gè)數(shù)字到2020年將增長(zhǎng)到10萬(wàn)。一些客戶在一兩年內(nèi)還將開(kāi)始使用數(shù)千倍多的數(shù)據(jù)，1EB（1艾字節(jié) = 10億GB）或者更多的數(shù)據(jù)。

對(duì)大企業(yè)而言，大數(shù)據(jù)的興起部分是因?yàn)橛?jì)算能力可用更低的成本獲得，且各類系統(tǒng)如今已能夠執(zhí)行多任務(wù)處理。其次，內(nèi)存的成本也在直線下降，企業(yè)可以在內(nèi)存中處理比以往更多的數(shù)據(jù)，另外是把計(jì)算機(jī)聚合成服務(wù)器集群越來(lái)越簡(jiǎn)單。IDC認(rèn)為，這三大因素的結(jié)合便催生了大數(shù)據(jù)。同時(shí)，IDC還表示，某項(xiàng)技術(shù)要想成為大數(shù)據(jù)技術(shù)，首先必須是成本可承受的，其次是必須滿足IBM所描述的三個(gè)"V"判據(jù)中的兩個(gè)：多樣性（variety）、體量（volume）和速度（velocity）。

多樣性是指，數(shù)據(jù)應(yīng)包含結(jié)構(gòu)化的和非結(jié)構(gòu)化的數(shù)據(jù)。

體量是指聚合在一起供分析的數(shù)據(jù)量必須是非常龐大的。

而速度則是指數(shù)據(jù)處理的速度必須很快。

大數(shù)據(jù)"并非總是說(shuō)有數(shù)百個(gè)TB才算得上。根據(jù)實(shí)際使用情況，有時(shí)候數(shù)百個(gè)GB的數(shù)據(jù)也可稱為大數(shù)據(jù)，這主要要看它的第三個(gè)維度，也就是速度或者時(shí)間維度。

Garter表示，全球信息量正在以59%以上的年增長(zhǎng)率增長(zhǎng)，而量是在管理數(shù)據(jù)、業(yè)務(wù)方面的顯著挑戰(zhàn)，IT領(lǐng)袖必須側(cè)重在信息量、種類和速度上。

量：企業(yè)系統(tǒng)內(nèi)部的數(shù)據(jù)量的增加是由交易量、其它傳統(tǒng)數(shù)據(jù)類型和新的數(shù)據(jù)類型引發(fā)的。過(guò)多的量是一個(gè)存儲(chǔ)的問(wèn)題，但過(guò)多的數(shù)據(jù)也是一個(gè)大量分析的問(wèn)題。

種類：IT領(lǐng)袖在將大量的交易信息轉(zhuǎn)化為決策上一直存在困擾 - 現(xiàn)在有更多類型的信息需要分析 - 主要來(lái)自社交媒體和移動(dòng)（情景感知）。種類包括表格數(shù)據(jù)（數(shù)據(jù)庫(kù)）、分層數(shù)據(jù)、文件、電子郵件、計(jì)量數(shù)據(jù)、視頻、靜態(tài)圖像、音頻、股票行情數(shù)據(jù)、金融交易和其它更多種類。

速度：這涉及到數(shù)據(jù)流、結(jié)構(gòu)化記錄的創(chuàng)建，以及訪問(wèn)和交付的可用性。速度意味著正在被生成的數(shù)據(jù)有多快和數(shù)據(jù)必須被多快地處理以滿足需求。

雖然大數(shù)據(jù)是一個(gè)重大問(wèn)題，Gartner分析師表示，真正的問(wèn)題是讓大數(shù)據(jù)更有意義，在大數(shù)據(jù)里面尋找模式幫助組織機(jī)構(gòu)做出更好的商業(yè)決策。

諸子百家談如何定義"大數(shù)據(jù)"

盡管"Big Data"可以翻譯成大數(shù)據(jù)或者海量數(shù)據(jù)，但大數(shù)據(jù)和海量數(shù)據(jù)是有區(qū)別的。

定義一：大數(shù)據(jù) = 海量數(shù)據(jù) + 復(fù)雜類型的數(shù)據(jù)

Informatica中國(guó)區(qū)首席產(chǎn)品顧問(wèn)但彬認(rèn)為："大數(shù)據(jù)"包含了"海量數(shù)據(jù)"的含義，而且在內(nèi)容上超越了海量數(shù)據(jù)，簡(jiǎn)而言之，"大數(shù)據(jù)"是"海量數(shù)據(jù)"+復(fù)雜類型的數(shù)據(jù)。

但彬進(jìn)一步指出：大數(shù)據(jù)包括交易和交互數(shù)據(jù)集在內(nèi)的所有數(shù)據(jù)集，其規(guī)?；驈?fù)雜程度超出了常用技術(shù)按照合理的成本和時(shí)限捕捉、管理及處理這些數(shù)據(jù)集的能力。

大數(shù)據(jù)是由三項(xiàng)主要技術(shù)趨勢(shì)匯聚組成：

海量交易數(shù)據(jù)：在從 ERP應(yīng)用程序到數(shù)據(jù)倉(cāng)庫(kù)應(yīng)用程序的在線交易處理（OLTP）與分析系統(tǒng)中，傳統(tǒng)的關(guān)系數(shù)據(jù)以及非結(jié)構(gòu)化和半結(jié)構(gòu)化信息仍在繼續(xù)增長(zhǎng)。隨著企業(yè)將更多的數(shù)據(jù)和業(yè)務(wù)流程移向公共和私有云，這一局面變得更加復(fù)雜。

海量交互數(shù)據(jù)：這一新生力量由源于 Facebook、Twitter、LinkedIn 及其它來(lái)源的社交媒體數(shù)據(jù)構(gòu)成。它包括了呼叫詳細(xì)記錄（CDR）、設(shè)備和傳感器信息、GPS 和地理定位映射數(shù)據(jù)、通過(guò)管理文件傳輸（Manage File Transfer）協(xié)議傳送的海量圖像文件、Web 文本和點(diǎn)擊流數(shù)據(jù)、科學(xué)信息、電子郵件等等。

海量數(shù)據(jù)處理：大數(shù)據(jù)的涌現(xiàn)已經(jīng)催生出了設(shè)計(jì)用于數(shù)據(jù)密集型處理的架構(gòu)，例如具有開(kāi)放源碼、在商品硬件群中運(yùn)行的 Apache Hadoop。對(duì)于企業(yè)來(lái)說(shuō)，難題在于以具備成本效益的方式快速可靠地從 Hadoop 中存取數(shù)據(jù)。

定義二：大數(shù)據(jù)包括A、B、C三個(gè)要素

如何理解大數(shù)據(jù)？NetApp 大中華區(qū)總經(jīng)理陳文認(rèn)為，大數(shù)據(jù)意味著通過(guò)更快獲取信息來(lái)使做事情的方式變得與眾不同，并因此實(shí)現(xiàn)突破。大數(shù)據(jù)被定義為大量數(shù)據(jù)（通常是非結(jié)構(gòu)化的），它要求我們重新思考如何存儲(chǔ)、管理和恢復(fù)數(shù)據(jù)。那么，多大才算大呢？考慮這個(gè)問(wèn)題的一種方式就是，它是如此之大，以至于我們今天所使用的任何工具都無(wú)法處理它，因此，如何消化數(shù)據(jù)并把它轉(zhuǎn)化成有價(jià)值的洞見(jiàn)和信息，這其中的關(guān)鍵就是轉(zhuǎn)變。

基于從客戶那里了解的工作負(fù)載要求， NetApp所理解的大數(shù)據(jù)包括A、B、C三個(gè)要素：分析（Analytic），帶寬（Bandwidth）和內(nèi)容（Content）。

1. 大分析（Big Analytics），幫助獲得洞見(jiàn) - 指的是對(duì)巨大數(shù)據(jù)集進(jìn)行實(shí)時(shí)分析的要求，它能帶來(lái)新的業(yè)務(wù)模式，更好的客戶服務(wù)，并實(shí)現(xiàn)更好的結(jié)果。

2. 高帶寬（Big Bandwidth），幫助走得更快 - 指的是處理極端高速的關(guān)鍵數(shù)據(jù)的要求。它支持快速有效地消化和處理大型數(shù)據(jù)集。

3. 大內(nèi)容（Big Content），不丟失任何信息- 指的是對(duì)于安全性要求極高的高可擴(kuò)展的數(shù)據(jù)存儲(chǔ)，并能夠輕松實(shí)現(xiàn)恢復(fù)。它支持可管理的信息內(nèi)容存儲(chǔ)庫(kù)、而不只是存放過(guò)久的數(shù)據(jù)，并且能夠跨越不同的大陸板塊。

大數(shù)據(jù)是一股突破性的經(jīng)濟(jì)和技術(shù)力量，它為 IT 支持引入了新的基礎(chǔ)架構(gòu)。大數(shù)據(jù)解決方案消除了傳統(tǒng)的計(jì)算和存儲(chǔ)的局限。借助于不斷增長(zhǎng)的私密和公開(kāi)數(shù)據(jù)，一種劃時(shí)代的新商業(yè)模式正在興起，它有望為大數(shù)據(jù)客戶帶來(lái)新的實(shí)質(zhì)性的收入增長(zhǎng)點(diǎn)以及富于競(jìng)爭(zhēng)力的優(yōu)勢(shì)。