企業(yè)數(shù)據(jù)中心的大數(shù)據(jù)之惑_數(shù)據(jù)分析師

2013年被中國IT界稱為大數(shù)據(jù)年，如果你逢人不談大數(shù)據(jù)，好像就已經(jīng)跟不上時代潮流，會被業(yè)界同仁認為是異類，可見大數(shù)據(jù)多么火熱。具體大數(shù)據(jù)的定義已經(jīng)有很多種，對業(yè)界最好的貢獻就是不再添亂，制造出另外一種新定義。為此，我將專注大數(shù)據(jù)的企業(yè)數(shù)據(jù)中心之旅，和大家一起探討大數(shù)據(jù)方案在企業(yè)數(shù)據(jù)中心如何攻克難關，順利落地生花。

　　大數(shù)據(jù)的價值

　　大數(shù)據(jù)產(chǎn)生大價值的口號已經(jīng)震天響，但具體的企業(yè)和應用場景產(chǎn)生的價值還是還不同，但大數(shù)據(jù)的價值總體來說都會讓營銷更精準、研發(fā)更快速、企業(yè)競爭力更強。沃爾瑪“啤酒和尿布”的案例就是智能營銷的典型案例，通過數(shù)據(jù)挖掘得出的結論，可以幫助沃爾瑪更好制定營銷方案，更好地滿足客戶的需求。當然，對客戶來說就是更便捷買到自己所需。對于地質(zhì)勘探等行業(yè)，通過大數(shù)據(jù)的處理，可以快速定位資源位置，確定資源儲量等，這顯然是提升生產(chǎn)效率，降低探測成本。阿里巴巴通過對用戶行為的分析，準確地預言了2008年的金融危機，并采取措施幫助中小制造商準備過冬的糧食，這為不僅為阿里巴巴集團贏得了不少聲譽，也幫助它的客戶更好應對危機。美國國家海洋和大氣管理局(NOAA)每年的IT預算高達10億美元，主要用于大數(shù)據(jù)中心的建設，為國家海洋大氣策略的制定提供智能支撐。2011年3月11日，日本大地震發(fā)生后僅9分鐘，NOAA就發(fā)布了詳細的海嘯預警，這都是大數(shù)據(jù)的神通。可見，大數(shù)據(jù)確實能產(chǎn)生大價值，在不同的領域、不同的場景都能發(fā)揮它的能力，為企業(yè)、客戶帶來巨大收獲。

　　大數(shù)據(jù)對信息產(chǎn)業(yè)及企業(yè)的推動作用

　　大數(shù)據(jù)是云計算平臺上一個很好的應用，大數(shù)據(jù)的蓬勃發(fā)展，不僅僅推動云計算的快速落地，也打破的傳統(tǒng)的營銷、商務智能等的限制，將新興的社交媒體、互聯(lián)網(wǎng)的技術更好地轉化為商務智能，為信息產(chǎn)業(yè)更好的推動業(yè)務發(fā)展找到了一條出路。云計算曾讓很多用戶感覺是“暈計算”，數(shù)據(jù)量的激增也曾讓很多用戶束手無策，云計算和大數(shù)據(jù)的整合發(fā)展解決了這個難題，為下一代數(shù)據(jù)中心的發(fā)展指明了方向，成為企業(yè)在社交媒體時代的制勝法寶。從此，CIO再也不僅僅是傳統(tǒng)的首席信息官，而是可以更深刻地影響企業(yè)的業(yè)務，成為更炙手可熱的首席創(chuàng)新官(Chief Innovation Officer)，這對企業(yè)和整個產(chǎn)業(yè)的影響都是十分深遠的。

　　大數(shù)據(jù)是云計算的“殺手應用”已經(jīng)毋庸置疑，大數(shù)據(jù)的價值也被大家廣泛認可。隨著企業(yè)信息化、社交媒體等新媒體的發(fā)展，企業(yè)的數(shù)據(jù)量和復雜性逐漸提升，如何利用這些遍布企業(yè)各個環(huán)節(jié)的數(shù)據(jù)成為打造企業(yè)新生命的關鍵。即使企業(yè)今天的數(shù)據(jù)量不是很大，可能完全基于傳統(tǒng)的關系型數(shù)據(jù)庫，大數(shù)據(jù)的應用也絕對不容忽視，因為隨著新型營銷平臺的出現(xiàn)，智能社交營銷已經(jīng)成為大家的“剛需”。而一旦走上新型營銷平臺，數(shù)據(jù)量就會急劇增加，大數(shù)據(jù)的應用迫切性即刻出現(xiàn)。長沙中聯(lián)重工科技發(fā)展股份有限公司CIO王玉坤在介紹他們的大數(shù)據(jù)實踐時說：“在工程機械行業(yè)，很多挖掘機都安裝了GPS定位系統(tǒng)，實時監(jiān)控車輛運行情況。同樣，日本小松公司的挖掘機也安裝了GPS定位系統(tǒng)，在實時監(jiān)控車輛運行情況的同時，還根據(jù)挖掘機每個月的工作時間，統(tǒng)計全年的工作情況，由此判斷下一年度的市場需求。挖掘機開工越飽滿，說明市場需求越旺盛，如果客戶購買挖掘機后每個月的工作量很少，說明市場有可能面臨過剩的風險”，這就是通過大數(shù)據(jù)的應用促使工程機械行業(yè)轉型的典型案例。一般大家都認為工程機械行業(yè)需要進行分析處理的數(shù)據(jù)量不大，通過這個案例可以看到，隨著GPS定位系統(tǒng)的應用，大數(shù)據(jù)以已悄然走進這類企業(yè)。

　　大數(shù)據(jù)的基礎架構

　　大數(shù)據(jù)雖然在不同的應用場景、不同企業(yè)環(huán)境應用方式會千差萬別，但是常見的基本架構如圖示。大數(shù)據(jù)都會有自己的基礎架構平臺，一般推薦是基于云計算的動態(tài)彈性平臺，因為這將為大數(shù)據(jù)的分析處理提供強有力的支撐。當然，為了加速數(shù)據(jù)處理，Hadoop這類的基礎處理平臺也是必不可少的，包括實時數(shù)據(jù)處理的模塊，加速數(shù)據(jù)處理的進度。大數(shù)據(jù)的價值和時間密切相關，如果不能及時將大數(shù)據(jù)快速處理，分析后的結果很可能就成為“事后諸葛亮”，好聽好看沒用途，相信任何一個企業(yè)都不希望大數(shù)據(jù)成為擺設。當然，不同的行業(yè)、場景會有數(shù)據(jù)分析、展示模塊來配合，這些都需要數(shù)據(jù)科學家、分析師、開發(fā)者等共同配合完成，將移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、社交媒體、實時數(shù)據(jù)流等進行分析處理，抽取出其中最有價值的規(guī)律、結論等，服務于我們面對的每個新明天和我們的新客戶需求。

　　大數(shù)據(jù)不會推翻我們傳統(tǒng)構建的傳統(tǒng)結構化數(shù)據(jù)的堡壘，特別是普遍應用在企業(yè)數(shù)據(jù)中心的關系型數(shù)據(jù)庫，仍然會是處理結構化數(shù)據(jù)的主要工具。但在大數(shù)據(jù)時代，我們更應該聚焦非結構化數(shù)據(jù)，結構化數(shù)據(jù)已經(jīng)有了不錯的歸宿，非結構化數(shù)據(jù)才是我們處理的難題。據(jù)預測，到2020年，非結構化數(shù)據(jù)將數(shù)十倍于傳統(tǒng)的結構化數(shù)據(jù)，成為大數(shù)據(jù)最主要的數(shù)據(jù)來源。Hadoop在大數(shù)據(jù)時代如日中天，成為很多企業(yè)追逐的對象，因為今天的Hadoop是非結構化數(shù)據(jù)的一大福音，通過Hadoop可以輕松掌控非結構化數(shù)據(jù)。

　　但是我們要充分認識到大數(shù)據(jù)確實不是傳統(tǒng)關系型數(shù)據(jù)庫能夠輕松應對的，由于非結構化數(shù)據(jù)的來臨，傳統(tǒng)關系型數(shù)據(jù)庫立馬力不從心。同時，實時數(shù)據(jù)要求的低延遲、數(shù)據(jù)流處理也是傳統(tǒng)數(shù)據(jù)庫的軟肋。當然，靈活模式、云架構以及海量數(shù)據(jù)處理要求，都導致傳統(tǒng)關系型數(shù)據(jù)庫陷入困頓，只能尋找新的數(shù)據(jù)處理模式，比如Hadoop等，這也是開源的Hadoop如此受業(yè)界追捧的主要原因。

　　企業(yè)邁向大數(shù)據(jù)時代之五部曲

　　當然，從傳統(tǒng)數(shù)據(jù)庫模式走到大數(shù)據(jù)時代是每個企業(yè)都需要經(jīng)歷的一次涅槃，下圖給出了常見的五部曲：

　　1)大數(shù)據(jù)收集。如果你大數(shù)據(jù)在手，恭喜你，至少你已經(jīng)有了穩(wěn)定的數(shù)據(jù)源。如果你沒有大數(shù)據(jù)，可能你需要想想哪些環(huán)節(jié)的重要數(shù)據(jù)從你指間溜走，你要開始部署新的工具攔住這些流失的數(shù)據(jù)，為他們找個收容所。當然，大數(shù)據(jù)收集最重要的是要確保數(shù)據(jù)質(zhì)量，沒有質(zhì)量的數(shù)據(jù)堅決杜絕，因為沒有意義的數(shù)據(jù)只會增加系統(tǒng)的復雜性，無形中增加成本。當然，大數(shù)據(jù)的價值密度本來就很低，如何辨別有質(zhì)量的大數(shù)據(jù)就不是輕松的一個環(huán)節(jié)，要花大力氣來解決。

　　2)混合云或者數(shù)據(jù)的全局保障。收集數(shù)據(jù)要依賴于基礎架構，云計算是一個重要平臺，通過軟件及服務，實現(xiàn)全公司數(shù)據(jù)的完整覆蓋，包括各種類型、多種應用的數(shù)據(jù)，不漏掉任何有價值的數(shù)據(jù)，也不讓垃圾數(shù)據(jù)混入其中。

　　3)實現(xiàn)分析工具實時、平民化和可視化。將復雜的、臃腫的、不能實時分析的工具統(tǒng)統(tǒng)扔進歷史的垃圾桶，只有大數(shù)據(jù)分析工具的革新才能真正實時挖掘出大數(shù)據(jù)的價值。傳統(tǒng)的分析工具會被大數(shù)據(jù)淹沒，成為企業(yè)的負擔，不能產(chǎn)生應有的價值。

　　4)虛擬化可實現(xiàn)管理自動化，降低運營成本。一個使用復雜、成本昂貴的大數(shù)據(jù)平臺會成為數(shù)據(jù)中心的新負擔，帶來的價值可能會被復雜的平臺本身直接消耗殆盡。隨著虛擬化，特別是軟件定義的數(shù)據(jù)中心時代的到來，輕型、便捷的新平臺成為大數(shù)據(jù)處理的首選平臺，不僅大幅度降低成本，也為大數(shù)據(jù)處理提供了高度的彈性、管理能力等，讓大數(shù)據(jù)處理成為企業(yè)新價值的發(fā)動機，成為企業(yè)競爭力的助推器，成為CIO的新頭腦。

　　5)開源軟件也將成為歷史潮流。大數(shù)據(jù)從電商企業(yè)、移動互聯(lián)網(wǎng)起家，因此生于開源，長于開源，開源成為大數(shù)據(jù)平臺的重要基因，這也是開源的Hadoop紅火的另一個重要原因。當然，開源并不意味著回到“手工作坊”時代，每個企業(yè)都要打造自己的“開源”大數(shù)據(jù)平臺，而是要有充分的開放性，基于開源的理念和架構，提供成本低廉、穩(wěn)定可靠的選擇。就像今天的開源Linux，一般企業(yè)還是選擇第三方企業(yè)包裝測試好的Linux平臺，而不是一個客戶完全自主研發(fā)的Linux平臺。通過這五部曲，企業(yè)可以輕松實現(xiàn)從傳統(tǒng)的關系型數(shù)據(jù)庫時代步入數(shù)據(jù)云時代，也就是走進新的大數(shù)據(jù)時代。

　　總之，大數(shù)據(jù)不是遙遠的神話，大數(shù)據(jù)是CIO為企業(yè)提供大價值的神器，機遇與挑戰(zhàn)并存。只要善用大數(shù)據(jù)，大數(shù)據(jù)定能為您的企業(yè)帶來不斷的新驚喜：大數(shù)據(jù)能讓你在從來不知道你有機會的地方找到機會;大數(shù)據(jù)的快速分析能讓你在機會消失之前把握住機會;大數(shù)據(jù)的有效應用能夠產(chǎn)生前所未有的商業(yè)新模式。