阻礙大數(shù)據(jù)“落地”的三大障礙_數(shù)據(jù)分析師

大數(shù)據(jù)時代已經(jīng)來臨。在人們暢想大數(shù)據(jù)將帶來美好生活的同時，一個更加現(xiàn)實的問題卻擺在眼前——大數(shù)據(jù)如何“落地”？政府和行業(yè)機構(gòu)如何營造適應(yīng)大數(shù)據(jù)發(fā)展的產(chǎn)業(yè)環(huán)境，企業(yè)如何開發(fā)強大和實用的數(shù)據(jù)分析工具，用戶如何看待和適應(yīng)大數(shù)據(jù)對個人隱私的“暴露”？雖然我們目前無法給出圓滿回答，但是包括政府、企業(yè)、用戶在內(nèi)的多方正在積極尋找答案。

　　大數(shù)據(jù)無疑是當(dāng)今的時髦詞匯。不管是云計算、社交網(wǎng)絡(luò)，還是物聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)和智慧城市，都要與大數(shù)據(jù)扯上關(guān)系。各種與大數(shù)據(jù)有關(guān)的會議、文章、書籍鋪天蓋地。有人談?wù)摯髷?shù)據(jù)時代的公民生活，也有人談?wù)摯髷?shù)據(jù)時代網(wǎng)絡(luò)反腐，仿佛一夜之間我們就進入了大數(shù)據(jù)時代。
 

　　大數(shù)據(jù)引發(fā)“思想啟蒙”

　　國際上，大數(shù)據(jù)還真是熱火朝天，各方都在積極行動。一方面，政府積極介入推動。2009年，聯(lián)合國啟動“全球脈動計劃”，借大數(shù)據(jù)推動落后地區(qū)發(fā)展。2012年1月，世界經(jīng)濟論壇年會把“大數(shù)據(jù)、大影響”作為重要議題。美國從開放政府?dāng)?shù)據(jù)、開展關(guān)鍵技術(shù)研究和推動大數(shù)據(jù)應(yīng)用三方面布局大數(shù)據(jù)產(chǎn)業(yè)。美國在開放政府?dāng)?shù)據(jù)上非常積極，通過Data.gov開放37萬個數(shù)據(jù)集，并開放網(wǎng)站的API和源代碼，提供上千個數(shù)據(jù)應(yīng)用。除了推動本國政府?dāng)?shù)據(jù)開放，美國倡導(dǎo)發(fā)起全球開放政府?dāng)?shù)據(jù)運動, 已有41個國家響應(yīng)。美國政府還投資兩億美元促進大數(shù)據(jù)核心技術(shù)研究和應(yīng)用，把大數(shù)據(jù)放在與集成電路、互聯(lián)網(wǎng)同等重要的位置，從國家層面推進。

　　另一方面，資本市場也對大數(shù)據(jù)鐘愛有加。2012年4月，大數(shù)據(jù)分析公司Splunk首次公開上市發(fā)行股票，引發(fā)投資者關(guān)注。12月初，為企業(yè)市場提供Hadoop解決方案的創(chuàng)業(yè)公司Cloudera在E輪融資中獲得6500萬美元融資，估值約為7億美元。近期，高盛聯(lián)席主席斯科特·斯坦福說：“投資大數(shù)據(jù)及其運用回報率最高。”大數(shù)據(jù)領(lǐng)域的企業(yè)并購熱度也在上升，在單筆平均并購金額方面，大數(shù)據(jù)超過云計算位居IT領(lǐng)域榜首，在總并購額上也位居第二。

　　在各方力量的推動下，大數(shù)據(jù)科研和產(chǎn)品開發(fā)逐漸活躍起來。一個新概念的興起，最初往往會有人快速地“新瓶裝舊酒”。已經(jīng)存在好多年的商業(yè)智能、數(shù)據(jù)倉庫等技術(shù)

　　被重新包裝，以大數(shù)據(jù)系統(tǒng)的面目出現(xiàn)在市場上。這也使人困惑：到底大數(shù)據(jù)與傳統(tǒng)數(shù)據(jù)分析技術(shù)有什么差別？可以說大數(shù)據(jù)最重要的特征是將數(shù)據(jù)處理的對象擴展到互聯(lián)網(wǎng)級別（Internet Scale），技術(shù)上的進展主要包括：一、單數(shù)據(jù)集達到PB級別；二、非結(jié)構(gòu)化占主流；三、幾天至數(shù)秒內(nèi)完成高速處理。技術(shù)形成了批處理、流處理和交互分析三種計算模式。離線批處理（Batch Processing）技術(shù)以MapReduce和Hadoop系統(tǒng)為代表，實時流處理（Stream Processing）技術(shù)以Yahoo的S4系統(tǒng)和Twitter的Storm系統(tǒng)為代表，交互式分析（Interactive Analysis）技術(shù)以谷歌的Dremel系統(tǒng)為代表。

　　大數(shù)據(jù)的火暴，也帶動了國內(nèi)學(xué)術(shù)界、產(chǎn)業(yè)界和政府對大數(shù)據(jù)的熱情，但筆者認(rèn)為其更大意義應(yīng)在于喚醒了人們對數(shù)據(jù)的重視。2012年以來，中國計算機學(xué)會、中國通信學(xué)會先后成立了大數(shù)據(jù)委員會，研究大數(shù)據(jù)中的科學(xué)與工程問題，科技部的《中國云科技發(fā)展“十二五”專項規(guī)劃》和工信部的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》等都把大數(shù)據(jù)技術(shù)作為一項重點予以支持。雖然這些舉措著眼長遠，短期難以看到效果，但這種熱潮的確觸發(fā)了一場“思想啟蒙”運動，使得“大數(shù)據(jù)是資產(chǎn)，不是包袱”、“要拿數(shù)據(jù)說話”等觀念逐步深入人心，改變了以往不重視數(shù)據(jù)積累、不相信數(shù)據(jù)分析等認(rèn)識。有了這種思維模式的改變，大數(shù)據(jù)的應(yīng)用就有了希望。

　　大價值還是大“忽悠”？

　　炒作歸炒作，但真正可以落地或者已經(jīng)落地的應(yīng)用有哪些？在哪里？聯(lián)合國“全球脈動（Global Pulse）”去年5月發(fā)布的報告，給出了用Twitter預(yù)測大米價格、用谷歌趨勢（Google trends）跟蹤登革熱疫情等生動案例；美國中央情報局官員也披露大數(shù)據(jù)在幫助他們追捕恐怖分子方面立下功勞；有人聲稱成功利用Twitter預(yù)測了本屆美國大選。這些聽起來很炫的案例在各種場合被人們反復(fù)引用。各大咨詢公司和解決方案提供商也都盡力挖掘大數(shù)據(jù)的應(yīng)用場景。但實際看到的大規(guī)模應(yīng)用案例除了互聯(lián)網(wǎng)搜索引擎、電商和社交網(wǎng)站以及少數(shù)國家的政府網(wǎng)站外，在其他領(lǐng)域還并不多見。國內(nèi)應(yīng)用案例就更是鳳毛麟角了。

　　空泛的炒作時間長了難免令人厭倦。有人開始質(zhì)疑，大數(shù)據(jù)是大價值還是大忽悠？也有人警告說，“大數(shù)據(jù)是機會，但不是所有人的機會”，只有擁有大

　　數(shù)據(jù)的大型企業(yè)和政府機構(gòu)才有應(yīng)用大數(shù)據(jù)的潛力與機會；“大數(shù)據(jù)的確會有價值，但沒有那么大”，就看你會不會挖掘，是否善于運用數(shù)據(jù)分析的結(jié)果了。只有冷靜分析大數(shù)據(jù)對自身的價值與機遇，才能避免被忽悠。

　　必須邁過的“三道坎”

　　從全球來看，對大數(shù)據(jù)的認(rèn)識、研究和應(yīng)用還都處于初級階段。特別是對我國來說，大數(shù)據(jù)真正落地，還需要邁過三道坎。

　　第一，數(shù)據(jù)是否足夠豐富和開放。豐富的數(shù)據(jù)源是大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的前提。而我國數(shù)字化的數(shù)據(jù)資源總量遠遠低于美歐，每年新增數(shù)據(jù)量僅為美國的7%、歐洲的12%，其中政府和制造業(yè)的數(shù)據(jù)資源積累遠遠落后于國外。就已有的有限數(shù)據(jù)資源來說，還存在標(biāo)準(zhǔn)化、準(zhǔn)確性、完整性低以及利用價值不高等情況，這大大降低了數(shù)據(jù)的價值。同時，我國政府、企業(yè)和行業(yè)信息化系統(tǒng)建設(shè)往往缺少統(tǒng)一規(guī)劃和科學(xué)論證，系統(tǒng)之間缺乏統(tǒng)一的標(biāo)準(zhǔn)，形成了眾多“信息孤島”，而且受行政壟斷和商業(yè)利益所限，數(shù)據(jù)開放程度也較低，這給數(shù)據(jù)利用造成極大障礙。制約我國數(shù)據(jù)資源開放和共享的一個重要因素是政策法規(guī)不完善，一方面欠缺推動政府和公共數(shù)據(jù)的政策，另一方面數(shù)據(jù)保護和隱私保護方面的制度不完善，抑制了開放的積極性。因此，建立一個良性發(fā)展的數(shù)據(jù)共享生態(tài)系統(tǒng)，是我國大數(shù)據(jù)發(fā)展需要邁過的第一道坎。

　　第二，是否掌握強大的數(shù)據(jù)分析工具。要以低成本和可擴展的方式處理大數(shù)據(jù)，這就需要對整個IT架構(gòu)進行重構(gòu)，開發(fā)先進的軟件平臺和算法。這方面，國外又一次走在我們前面。特別是近年來以開源模式發(fā)展起來的Hadoop等大數(shù)據(jù)處理軟件平臺，及其相關(guān)產(chǎn)業(yè)已經(jīng)在美國初步形成。而我國數(shù)據(jù)處理技術(shù)基礎(chǔ)薄弱，總體上以跟隨為主，難以滿足大數(shù)據(jù)大規(guī)模應(yīng)用的需求。如果把大數(shù)據(jù)比做石油，那數(shù)據(jù)分析工具就是勘探、鉆井、提煉、加工的技術(shù)。我國必須掌握大數(shù)據(jù)關(guān)鍵技術(shù)，才能將資源轉(zhuǎn)化為價值。應(yīng)該說，要邁過這道坎，開源技術(shù)為我們提供了很好的基礎(chǔ)。

　　第三，管理理念和運作方式能否適配數(shù)據(jù)化決策。大數(shù)據(jù)開發(fā)的根本目的是以數(shù)據(jù)分析為基礎(chǔ)，幫助人們作出更明智的決策，優(yōu)化企業(yè)和社會