2015年大數(shù)據(jù)分析的八大趨勢預(yù)測_數(shù)據(jù)分析師

Intuit數(shù)據(jù)工程副主管Loconzolo雙腳都已經(jīng)邁進(jìn)數(shù)據(jù)湖里了。SmarterRemarketer首席數(shù)據(jù)科學(xué)家DeanAbbott也為云技術(shù)的發(fā)展指出了捷徑。他們二人一致認(rèn)為,大數(shù)據(jù)與分析學(xué)前沿是個活動目標(biāo)，這一領(lǐng)域包含了儲存原始數(shù)據(jù)的數(shù)據(jù)湖和云計算。盡管這些技術(shù)并未成熟，但等待也并非上策。

Loconzolo表示：“現(xiàn)實(shí)的情況是，這些工具都剛剛興起，他們構(gòu)筑的平臺還不足以讓企業(yè)依賴。但是，大數(shù)據(jù)和分析學(xué)等學(xué)科發(fā)展十分迅速，因此企業(yè)必須努力跟上，否則就有被甩掉的危險?！彼€說：“過去，新興技術(shù)往往需要十年左右的時間才能夠成熟，但是現(xiàn)在大大不同了，人們幾個月甚至幾周時間就能想出解決方案。”那么，有哪些新興技術(shù)是我們應(yīng)該關(guān)注，或者說科研人員正在重點(diǎn)研究的呢？《電腦世界》采訪了一些IT精英、咨詢師和行業(yè)分析專家，來看看他們列出的幾大趨勢吧。

1.云端大數(shù)據(jù)分析

Hadoop是一組有一定框架結(jié)構(gòu)的工具，用來處理大型數(shù)據(jù)組。它原本用于機(jī)器群，但現(xiàn)在情況有所變化。ForresterResearch一位分析師BrianHopkins表示，現(xiàn)在有越來越多的技術(shù)可以運(yùn)用到云端數(shù)據(jù)處理上來了。比如亞馬遜的BI數(shù)據(jù)庫、Google的BigQuery數(shù)據(jù)分析服務(wù),、IBM’sBluemix云平臺和亞馬遜的Kinesis數(shù)據(jù)處理服務(wù)。這位分析師還說，未來的大數(shù)據(jù)將是內(nèi)部數(shù)據(jù)部署與云端數(shù)據(jù)的結(jié)合體。

SmarterRemarketer是SaaS零售分析、市場細(xì)分和營銷服務(wù)的供應(yīng)商，它最近將自己室內(nèi)的Hadoop和MongoDB數(shù)據(jù)庫基礎(chǔ)設(shè)施轉(zhuǎn)移到了一個基于云技術(shù)的數(shù)據(jù)庫—AmazonRedshift.這家位于印第安納波利斯的公司收集線上和實(shí)體銷售數(shù)據(jù)、顧客信息和實(shí)時行為數(shù)據(jù)，之后進(jìn)行分析，從而幫助零售商做出針對消費(fèi)者的決策，有些決策甚至是實(shí)時的。

Abbott表示，Redshift可以節(jié)省這家公司的成本，這是因為它對于結(jié)構(gòu)數(shù)據(jù)擁有強(qiáng)大的匯總報告功能，而且它頗具規(guī)模，使用起來相對容易。用這些虛擬設(shè)備總是要比那些實(shí)體設(shè)備便宜一些。

相比之下，位于加州山景城的Intuit在走向云分析的過程中就要謹(jǐn)慎多了，因為它需要一個安全、穩(wěn)定、可控的環(huán)境。目前為止，這家金融軟件公司的數(shù)據(jù)都還在自家的數(shù)據(jù)庫—IntuitAnalyticsCloud里面。Loconzolo表示：“目前我們正跟亞馬遜還有Cloudera合作，建立一個我們幾家公司公用的能跨越虛擬、現(xiàn)實(shí)兩個世界的、具有高度穩(wěn)定性的云端，但是現(xiàn)在這個問題還沒有得到解決。”然而，可以說，對于像Intuit這種銷售云端產(chǎn)品的公司來說，向云端技術(shù)進(jìn)軍是必然的。Loconzolo還說道，未來我們會發(fā)展到一個階段，那時把數(shù)據(jù)放在私有云端將是浪費(fèi)的。

2.Hadoop：一個新的企業(yè)數(shù)據(jù)分析運(yùn)行系統(tǒng)

Hopkins表示，向MapReduce這樣的分布式分析框架，正在逐漸演化成分布式資源管理器，這些資源管理器正逐步將Hadoop變?yōu)槎嘤猛緮?shù)據(jù)運(yùn)行系統(tǒng)。“有了這些系統(tǒng)，你就可以進(jìn)行多種多樣的操作和分析?！?/span>

這對企業(yè)來說意味著什么呢？SQL、MapReduce、in-memory、流水式處理、圖表分析還有其它工作都能在Hadoop上進(jìn)行，越來越多的企業(yè)會把Hadoop當(dāng)做企業(yè)數(shù)據(jù)中心。Hopkins還說：“在Hadoop上能進(jìn)行各種各樣的數(shù)據(jù)處理工作，這樣的話，Hadoop會慢慢變成一個多用途的數(shù)據(jù)處理系統(tǒng)?！?/span>

Intuit已經(jīng)開始在Hadoop建立自己的數(shù)據(jù)基地了。Loconzolo說：“我們的策略是利用Hadoop分布式文件系統(tǒng)，因為它和MapReduce與Hadoop等聯(lián)系十分密切，這樣的話，人與產(chǎn)品之間的各種互動就可以實(shí)現(xiàn)了。

3.大數(shù)據(jù)湖泊

美國普華永道首席技術(shù)專家ChrisCurran說，傳統(tǒng)數(shù)據(jù)庫理論認(rèn)為，人們應(yīng)該先設(shè)計數(shù)據(jù)集，然后再將數(shù)據(jù)輸入進(jìn)去。而“數(shù)據(jù)湖泊“，也被稱作“企業(yè)數(shù)據(jù)湖泊”或者“企業(yè)數(shù)據(jù)中心”，顛覆了這個理念?！艾F(xiàn)在，我們先收集數(shù)據(jù)，然后把它們都存入Hadoop倉庫里，我們不必事先設(shè)計數(shù)據(jù)模型了?！边@個數(shù)據(jù)湖泊不僅為人們提供了分析數(shù)據(jù)的工具，而且很明確地告訴你，這里有什么樣的數(shù)據(jù)。Curran還表示，運(yùn)用Hadoop的過程中人們就可以增加對數(shù)據(jù)的認(rèn)識。這是一個遞增的、有機(jī)的大規(guī)模數(shù)據(jù)庫。當(dāng)然，這樣一來，對使用者的技術(shù)要求相應(yīng)地會比較高。

Loconzolo表示，Intuit擁有自己的數(shù)據(jù)湖泊，這個數(shù)據(jù)湖里既有用戶點(diǎn)擊量的數(shù)據(jù)，也有企業(yè)和第三方的數(shù)據(jù)，所有這些都是Intuit分析云端的一部分，但關(guān)鍵是要讓圍繞這個數(shù)據(jù)湖的工具能夠為人們有效利用起來。Loconzolo還說，對于在Hadoop建立數(shù)據(jù)湖，一個需要考慮的問題是，這個平臺并沒有完完全全的為企業(yè)的需求設(shè)置周全?！拔覀冞€需要傳統(tǒng)企業(yè)數(shù)據(jù)庫已經(jīng)有了幾十年的一些功能，比如監(jiān)控訪問控制、加密、安全性以及能夠從源頭到去向地追蹤數(shù)據(jù)等等。

4.更多預(yù)測分析

Hopkins表示，有了大數(shù)據(jù)，分析師們不僅有了更多的數(shù)據(jù)可以利用，也擁有了更強(qiáng)大的處理打量不同屬性數(shù)據(jù)的能力。

他說：“傳統(tǒng)的機(jī)器學(xué)習(xí)利用的數(shù)據(jù)分析是建立在一個大數(shù)據(jù)集中的一個樣本基礎(chǔ)上的，而現(xiàn)在，我們擁有了處理了大量數(shù)字記錄的能力，甚至于每條數(shù)據(jù)有多種不同屬性，我們都應(yīng)對自如?！?/span>

大數(shù)據(jù)與計算功能的結(jié)合也讓分析師們能夠挖掘人們一天中的行為數(shù)據(jù)，好比他們訪問的網(wǎng)站或者是去過的地方。Hopkins把這些數(shù)據(jù)稱作“稀少數(shù)據(jù)（sparsedata）”，因為要想得到這些你感興趣的數(shù)據(jù)，必須過濾掉一大堆無關(guān)的數(shù)據(jù)?！耙胗脗鹘y(tǒng)機(jī)器算法對抗這種數(shù)據(jù)，從計算角度來講幾乎不可能。因為計算能力是一個十分重要的問題，特別是現(xiàn)在傳統(tǒng)算法的速度和記憶儲存能力退化很快。而現(xiàn)在你可以很容易知道哪些數(shù)據(jù)是最容易分析的，不得不說，賽場易主了?！?/span>

Loconzolo表示：“我們最感興趣的地方是，怎樣在同一個Hadoop內(nèi)核中既能作實(shí)時分析，又能做預(yù)測模型。這里最大的問題在于速度。Hadoop花費(fèi)的時間要比現(xiàn)有技術(shù)長20倍，所以Intuit也在嘗試另一個大規(guī)模數(shù)據(jù)處理器ApacheSpark及其配套的SparkSQL查詢工具。Loconzolo說：“Spark具有快速查詢、制表服務(wù)和分組功能。它能在把數(shù)據(jù)保留在Hadoop內(nèi)部的前提下，還將數(shù)據(jù)處理得十分出色?！?/span>

5.Hadoop的結(jié)構(gòu)化查詢語言（SQR,StructuredQueryLanguage）：更快，更好

Gartner一位分析師表示，如果你是個不錯的編碼員或者數(shù)學(xué)家，你可以把數(shù)據(jù)丟進(jìn)Hadoop，想做什么分析就做什么分析，這是好處，但同時這也是個問題?！氨M管任何程序語言都行得通，但我需要有人把這些數(shù)據(jù)用我熟悉的形式或者語言輸入進(jìn)去，這也是為什么我們需要Hadoop的結(jié)構(gòu)化查詢語言。支持與SQR類似的查詢語言的工具，讓那些懂得SQR的企業(yè)使用者們能把類似的技術(shù)運(yùn)用在數(shù)據(jù)上。Hopkins認(rèn)為，Hadoop的SQR打開了企業(yè)通往Hadoop的大門，因為有了SQR，企業(yè)不需要在那些能使用Java,JavaScript和Python高端數(shù)據(jù)和商業(yè)分析師上投資了，而這些投資在以前可是少不了的一筆開銷。

這些工具也并非最近才出現(xiàn)的了。ApacheHive曾經(jīng)為用戶提供了一種適用于Hadoop、類似于SQR的查詢語言，但是競爭對手Cloudera、PivotalSoftware、IBM還有其他銷售商提供的產(chǎn)品不僅性能更好，速度也更快。這項技術(shù)也適合“迭代分析（iterativeanalytics）”，也就是說，分析師先問一個問題，得到回答之后再問下一個問題。而這種工作放在過去可是需要建立一個數(shù)據(jù)庫的。Hopkins說：“Hadoop的SQR并不是為了取代數(shù)據(jù)庫，最起碼短期不會，但對于某些分析來說，它讓我們知道，除了那些高成本的軟件和應(yīng)用之外，還有別的選擇?！?/span>

6.不僅僅是SQR—更快，更好

Curran表示,現(xiàn)在我們除了基于SQR的傳統(tǒng)的數(shù)據(jù)庫之外，還有NoSQL，這個數(shù)據(jù)庫能用于特定目的的分析，當(dāng)下十分熱門，而且估計會越來越受歡迎。他粗略估計目前大概有15-20個類似的開放資源NoSQL，每一個都獨(dú)具特色。比如ArangoDB，這是一款具備圖標(biāo)分析功能的產(chǎn)品，能更快、更直接地分析顧客與銷售人員之間的關(guān)系網(wǎng)。

Curran還說，開放資源的NoSQL數(shù)據(jù)庫已經(jīng)存在一段時間了，但是他們依然勢頭不減，因為人們需要它們所做的分析。一位在某個新興市場的普華永道客戶把傳感器按在了店面柜臺上，這樣就能監(jiān)控到那里到底有什么產(chǎn)品，顧客會擺弄這些產(chǎn)品多長時間以及人們會在柜臺前站多久?！皞鞲衅鲿a(chǎn)生大量類似指數(shù)增長的數(shù)據(jù)，NoSQL將是未來的一個發(fā)展方向，因為它可以針對特定目的進(jìn)行數(shù)據(jù)分析，性能好，而且很輕巧。”

7.深度學(xué)習(xí)

Hopkins認(rèn)為，作為一種基于神經(jīng)網(wǎng)絡(luò)的機(jī)械學(xué)習(xí)技術(shù)，雖然還在發(fā)展過程中，但在解決問題方面卻已經(jīng)表現(xiàn)出巨大的潛力?！?a href='/map/shenduxuexi/' style='color:#000;font-size:inherit;'>深度學(xué)習(xí)……能夠讓計算機(jī)在大量非結(jié)構(gòu)化和二進(jìn)制的數(shù)據(jù)中識別出有用信息，而且它能夠在不需要特殊模型和程序指令的前提下就剔除那些不必要的關(guān)系?！?/span>

舉個例子說明：一個深度學(xué)習(xí)的算法通過維基百科了解到加利福尼亞和德克薩斯是美國的兩個州?！拔覀儾辉谛枰ㄟ^模式化讓程序去理解州和國家的概念，這就是原來的機(jī)械學(xué)習(xí)和新興深度學(xué)習(xí)的區(qū)別之一?！?/span>

Hopkins還說道：“大數(shù)據(jù)運(yùn)用先進(jìn)的分析技術(shù)，例如深度分析，來處理各種各樣的非結(jié)構(gòu)文本，這些處理問題的思路和方式，我們也是現(xiàn)在才開始理解?！北热?，深度學(xué)習(xí)可以用來識別各種各樣不同的數(shù)據(jù)，比如形狀、顏色和錄像中的物體，甚至是圖片中的貓—谷歌建立的神經(jīng)網(wǎng)絡(luò)就做到了這一點(diǎn)?！斑@項技術(shù)所昭示的認(rèn)知理念、先進(jìn)的分析，將是未來的一個趨勢?！?/span>

8.內(nèi)存中分析

Beyer表示，利用內(nèi)存中數(shù)據(jù)庫來提升分析處理速度，這種方式已經(jīng)越來越廣泛，而且只要運(yùn)用得當(dāng)，益處也很多。事實(shí)上，很多企業(yè)現(xiàn)在已經(jīng)在利用HTAP（hybridtransaction/analyticalprocessing）了，這種處理方式能在同一個內(nèi)存數(shù)據(jù)庫中進(jìn)行轉(zhuǎn)換和分析處理。但Beyer同時也表示，對于HTAP的宣傳有些過頭了，很多公司也過度利用這項技術(shù)。對于那些使用者需要每天多次以同樣的方式看同樣數(shù)據(jù)的系統(tǒng)來說，這樣的數(shù)據(jù)沒有太大變化，這時用內(nèi)存中分析就是一種浪費(fèi)了。

雖然有了HTAP的幫助，人們分析速度更快了，但是，所有的轉(zhuǎn)換都必須儲存在同一個數(shù)據(jù)庫里。Beyer認(rèn)為，這樣的特點(diǎn)就產(chǎn)生了一個問題，分析師們目前的工作主要是把不同地方的數(shù)據(jù)匯總輸入到同一個數(shù)據(jù)庫當(dāng)中去?！叭绻阆胱鋈魏畏治龆歼\(yùn)用HTAP，所有的數(shù)據(jù)就得存在同一個地方。要把多樣化的數(shù)據(jù)進(jìn)行整合?！?/span>

然而，引入內(nèi)存數(shù)據(jù)庫的同時也意味著，還有另一個產(chǎn)品等著我們?nèi)ス芾?、維護(hù)、整合與權(quán)衡。

對于Intuit而言，他們已經(jīng)在使用Spark了，所以對引進(jìn)內(nèi)存數(shù)據(jù)庫的愿望并沒有那么強(qiáng)烈。Loconzolo說：“如果我們用Spark就能處理70%的問題，而用內(nèi)存數(shù)據(jù)庫可以解決100%，那么我們還會選擇前者。所以我們現(xiàn)在也在權(quán)衡，要不要馬上停用內(nèi)部的內(nèi)存數(shù)據(jù)系統(tǒng)?！?/span>

大步向前邁

在大數(shù)據(jù)和分析領(lǐng)域有這么多的新興趨勢，IT組織應(yīng)該創(chuàng)造條件，讓分析師和數(shù)據(jù)專家們大顯身手。Curran認(rèn)為：“我們需要評估、整合一些技術(shù)，從而把它們運(yùn)用到商業(yè)領(lǐng)域中去。”

Beyer則認(rèn)為：“IT管理者和執(zhí)行者們不能把技術(shù)不成熟作為停止試驗的借口。”最初只有一部分專業(yè)分析師和數(shù)據(jù)專家需要試驗，然后這些比較高級的使用者和IT行業(yè)應(yīng)該共同決定是否要把這些新的資源介紹給行業(yè)其他人。IT界也沒必要控制那些鼓足干勁的分析師們，相反，Beyer認(rèn)為應(yīng)該與他們加強(qiáng)合作。