透視大數(shù)據(jù)技術(shù)的背后

毫無疑問，世界上所有關(guān)注開發(fā)技術(shù)的人都意識到“大數(shù)據(jù)”對企業(yè)商務(wù)所蘊(yùn)含的潛在價(jià)值，其目的都在于解決在企業(yè)發(fā)展過程中各種業(yè)務(wù)數(shù)據(jù)增長所帶來的痛苦。

現(xiàn)實(shí)是，許多問題阻礙了大數(shù)據(jù)技術(shù)的發(fā)展和實(shí)際應(yīng)用。

因?yàn)橐环N成功的技術(shù)，需要一些衡量的標(biāo)準(zhǔn)?，F(xiàn)在我們可以通過幾個(gè)基本要素來衡量一下大數(shù)據(jù)技術(shù)，這就是——流處理、并行性、摘要索引和可視化。

誰會用到大數(shù)據(jù)呢？

一年前，大數(shù)據(jù)技術(shù)的一些主要用戶是大型Web企業(yè)，例如Facebook和雅虎，它們需要分析點(diǎn)擊流數(shù)據(jù)。但是今天，“大數(shù)據(jù)技術(shù)已經(jīng)超出了Web，是要是有大量數(shù)據(jù)需要處理的企業(yè)都有可能用到它?！崩玢y行、公用事業(yè)機(jī)構(gòu)、情報(bào)部門等都在搭乘大數(shù)據(jù)這輛車。

實(shí)際上，一些大數(shù)據(jù)技術(shù)已經(jīng)被一些擁有很前衛(wèi)技術(shù)的企業(yè)在使用了，比如受社交媒體推動而需要創(chuàng)建相應(yīng)Web服務(wù)的企業(yè)。它們對于大數(shù)據(jù)項(xiàng)目的貢獻(xiàn)非常重要。

而在其他垂直行業(yè)中，有些企業(yè)正在意識到，它們基于信息服務(wù)的價(jià)值定位要比它們先前想象的要大得多，所以大數(shù)據(jù)技術(shù)很快就吸引了這些企業(yè)的注意。再加上硬件和軟件成本的下降，這些企業(yè)發(fā)現(xiàn)它們已經(jīng)處在了一場企業(yè)大轉(zhuǎn)型機(jī)遇的完美風(fēng)暴中。

大數(shù)據(jù)處理的應(yīng)對三大挑戰(zhàn)：大容量數(shù)據(jù)、多格式數(shù)據(jù)和速度

大容量數(shù)據(jù)（TB級、PB級甚至EB級）：人們和機(jī)器制造的越來越多的業(yè)務(wù)數(shù)據(jù)對IT系統(tǒng)帶來了更大的挑戰(zhàn)，數(shù)據(jù)的存儲和安全以及在未來訪問和使用這些數(shù)據(jù)已成為難點(diǎn)。

多格式數(shù)據(jù)：海量數(shù)據(jù)包括了越來越多不同格式的數(shù)據(jù)，這些不同格式的數(shù)據(jù)也需要不同的處理方法。從簡單的電子郵件、數(shù)據(jù)日志和信用卡記錄，再到儀器收集到的科學(xué)研究數(shù)據(jù)、醫(yī)療數(shù)據(jù)、財(cái)務(wù)數(shù)據(jù)以及豐富的媒體數(shù)據(jù)（包括照片、音樂、視頻等）。

速度：速度是指數(shù)據(jù)從端點(diǎn)移動到處理器和存儲的速度。

一、流處理大數(shù)據(jù)技術(shù)涵蓋哪些內(nèi)容？

伴隨著業(yè)務(wù)發(fā)展的步調(diào)，以及業(yè)務(wù)流程的復(fù)雜化，我們的注意力越來越集中在“數(shù)據(jù)流”而非“數(shù)據(jù)集”上面。

決策者感興趣的是緊扣其組織機(jī)構(gòu)的命脈，并獲取實(shí)時(shí)的結(jié)果。他們需要的是能夠處理隨時(shí)發(fā)生的數(shù)據(jù)流的架構(gòu)，當(dāng)前的數(shù)據(jù)庫技術(shù)并不適合數(shù)據(jù)流處理。

例如，計(jì)算一組數(shù)據(jù)的平均值，可以使用一個(gè)傳統(tǒng)的腳本實(shí)現(xiàn)。但對于移動數(shù)據(jù)平均值的計(jì)算，不論是到達(dá)、增長還是一個(gè)又一個(gè)的單元，有更高效的算法。如果你想構(gòu)建數(shù)據(jù)倉庫，并執(zhí)行任意的數(shù)據(jù)分析、統(tǒng)計(jì)，開源的產(chǎn)品R或者類似于SAS的商業(yè)產(chǎn)品就可以實(shí)現(xiàn)。但是你想創(chuàng)建的是一個(gè)數(shù)據(jù)流統(tǒng)計(jì)集，對此逐步添加或移除數(shù)據(jù)塊，進(jìn)行移動平均計(jì)算，而且數(shù)據(jù)庫不存在或者尚不成熟。

數(shù)據(jù)流周邊的生態(tài)系統(tǒng)有欠發(fā)達(dá)。換言之，如果你正在與一家供應(yīng)商洽談一個(gè)大數(shù)據(jù)項(xiàng)目，那么你必須知道數(shù)據(jù)流處理對你的項(xiàng)目而言是否重要，并且供應(yīng)商是否有能力提供。

二、并行化

大數(shù)據(jù)的定義有許多種，以下這種相對有用?！靶?shù)據(jù)”的情形類似于桌面環(huán)境，磁盤存儲能力在1GB到10GB之間，“中數(shù)據(jù)”的數(shù)據(jù)量在100GB到1TB之間，“大數(shù)據(jù)”分布式的存儲在多臺機(jī)器上，包含1TB到多個(gè)PB的數(shù)據(jù)。

如果你在分布式數(shù)據(jù)環(huán)境中工作，并且想在很短的時(shí)間內(nèi)處理數(shù)據(jù)，這就需要分布式處理。

并行處理在分布式數(shù)據(jù)中脫穎而出，Hadoop是一個(gè)分布式/并行處理領(lǐng)域廣為人知的例子。Hadoop包含一個(gè)大型分布式的文件系統(tǒng)，支持分布式/并行查詢。

三、摘要索引

摘要索引是一個(gè)對數(shù)據(jù)創(chuàng)建預(yù)計(jì)算摘要，以加速查詢運(yùn)行的過程。摘要索引的問題是，你必須為要執(zhí)行的查詢做好計(jì)劃，因此它有所限制。

數(shù)據(jù)增長飛速，對摘要索引的要求遠(yuǎn)不會停止，不論是長期考慮還是短期，供應(yīng)商必須對摘要索引的制定有一個(gè)確定的策略。

四、數(shù)據(jù)可視化

可視化工具有兩大類。

探索性可視化描述工具可以幫助決策者和分析師挖掘不同數(shù)據(jù)之間的聯(lián)系，這是一種可視化的洞察力。類似的工具有Tableau、TIBCO和QlikView，這是一類。

敘事可視化工具被設(shè)計(jì)成以獨(dú)特的方式探索數(shù)據(jù)。例如，如果你想以可視化的方式在一個(gè)時(shí)間序列中按照地域查看一個(gè)企業(yè)的銷售業(yè)績，可視化格式會被預(yù)先創(chuàng)建。數(shù)據(jù)會按照地域逐月展示，并根據(jù)預(yù)定義的公式排序。供應(yīng)商Perceptive Pixel就屬于這一類。

五、生態(tài)系統(tǒng)戰(zhàn)略

許多最大最成功的公司都花費(fèi)大量資金構(gòu)建圍繞它們產(chǎn)品的生態(tài)系統(tǒng)。這些生態(tài)系統(tǒng)被產(chǎn)品特性和商務(wù)模型所支持，并與合作伙伴的產(chǎn)品和技術(shù)協(xié)同工作。如果一個(gè)產(chǎn)品沒有一個(gè)富有戰(zhàn)略的生態(tài)系統(tǒng)，是很難適應(yīng)客戶的要求的。