大數據時代，統(tǒng)計學還有用嗎_數據分析師考試

在數據“爆炸”的時代，大數據常常被寄予厚望。到底，什么樣的數據才算大數據，怎樣才能用好大數據，傳統(tǒng)統(tǒng)計學還有用武之地嗎？清華大學統(tǒng)計學研究中心前不久成立，著名統(tǒng)計學家、哈佛大學終身教授劉軍擔任主任。

讓大數據區(qū)別于數據的，是其海量積累、高增長率和多樣性

什么是數據？數據（data）在拉丁文里是“已知”的意思，在英文中的一個解釋是“一組事實的集合，從中可以分析出結論”?；\統(tǒng)地說，凡是用某種載體記錄下來的、能反映自然界和人類社會某種信息的，就可稱之為數據。古人“結繩記事”，打了結的繩子就是數據。步入現代社會，信息的種類和數量越來越豐富，載體也越來越多。數字是數據，文字是數據，圖像、音頻、視頻等都是數據。

什么是大數據呢？量的增多，是人們對大數據的第一個認識。隨著科技發(fā)展，各個領域的數據量都在迅猛增長。有研究發(fā)現，近年來，數字數據的數量每3年多就會翻一番。

大數據區(qū)別于數據，還在于數據的多樣性。正如高德納咨詢公司研究報告指出的，數據的爆炸是三維的、立體的。所謂的三維，除了指數據量快速增大外，還指數據增長速度的加快，以及數據的多樣性，即數據的來源、種類不斷增加。

從數據到大數據，不僅是量的積累，更是質的飛躍。海量的、不同來源、不同形式、包含不同信息的數據可以容易地被整合、分析，原本孤立的數據變得互相聯(lián)通。這使得人們通過數據分析，能發(fā)現小數據時代很難發(fā)現的新知識，創(chuàng)造新的價值。

通過數據來研究規(guī)律、發(fā)現規(guī)律，貫穿了人類社會發(fā)展的始終。人類科學發(fā)展史上的不少進步都和數據采集分析直接相關，例如現代醫(yī)學流行病學的開端。倫敦1854年發(fā)生了大規(guī)模的霍亂，很長時間沒有辦法控制。一位醫(yī)師用標點地圖的方法研究了當地水井分布和霍亂患者分布之間的關系，發(fā)現有一口水井周圍，霍亂患病率明顯較高，借此找到了霍亂暴發(fā)的原因：一口被污染的水井。關閉這口水井之后，霍亂的發(fā)病率明顯下降。這種方法，充分展示了數據的力量。

本質上說，許多科學活動都是數據挖掘，不是從預先設定好的理論或者原理出發(fā)，通過演繹來研究問題，而是從數據本身出發(fā)通過歸納來總結規(guī)律。近現代以來，隨著我們面臨的問題變得越來越復雜，通過演繹的方式來研究問題常常變得很困難。這就使得數據歸納的方法變得越來越重要，數據的重要性也越發(fā)凸顯出來。

大數據是非競爭性資源，有助于政府科學決策、商家精準營銷

大數據時代，數據的重要作用更加凸顯，許多國家都把大數據提升到國家戰(zhàn)略的高度。

政府合理利用大數據，引導決策的將是基于實證的事實，政府會更有預見性、更加負責、更加開放。中國古代治國就已經有重數據的思想，如商鞅提出，“強國知十三數……欲強國，不知國十三數，地雖利，民雖眾，國愈弱至削”。大數據時代，循“數”治國將更加有效。小數據時代，政府做決策更多依憑經驗和局部數據，難免頭痛醫(yī)頭、腳痛醫(yī)腳。比如，交通堵塞就多修路。大數據時代，政府做決策能夠從粗放型轉向集約型。路堵了，利用大數據分析，可以得知哪一時間、哪一地段最容易堵，或在這一地段附近多修路，或提前預警引導居民合理安排出行，實現對交通流的最佳配置和控制，改善交通。

對于商家來說，大數據使精準營銷成為可能。一個有趣的故事，是沃爾瑪超市的“啤酒、尿布”現象。沃爾瑪超市分析銷售數據時發(fā)現，顧客消費單上和尿布一起出現次數最多的商品，竟然是啤酒。跟蹤調查后發(fā)現，有不少年輕爸爸會在買尿布時，順便買些啤酒喝。沃爾瑪發(fā)現這一規(guī)律后，搭配促銷啤酒、尿布，銷量大幅增加。大數據時代，每個人都會“自發(fā)地”提供數據。我們的各種行為，如點擊網頁、使用手機、刷卡消費、觀看電視、坐地鐵出行、駕駛汽車，都會生成數據并被記錄下來，我們的性別、職業(yè)、喜好、消費能力等信息，都會被商家從中挖掘出來，以分析商機。

大數據也將使個人受益。從生物學、醫(yī)學上講，以前生物學家只是通過對單個或幾個基因的操控來觀察其對生物體的影響，很難發(fā)現整體的關聯(lián)?，F在由于技術的發(fā)展，可以分析很多，如遺傳信息、全體基因的表達量信息、蛋白質族譜信息、全基因組甲基化信息、表觀遺傳信息等。同時還有個人健康指標、病歷、藥物反應等數據。如果真能達成生物學上多維多向數據的有機融合，就能夠把個人完整地描述出來，從而實現精準醫(yī)療的目的。

大數據時代，審核數據的真實性也有了更有效的手段。大數據的特征之一是多樣性，不同來源、不同維度的數據之間存在一定的關聯(lián)度，可以交叉驗證。例如，某地的工業(yè)產值虛報了一倍，但用電量和能耗卻沒有達到相應的規(guī)模。這就是數據異常，很容易被系統(tǒng)識別出來。發(fā)現異常后，相關部門再進行復核，就能更有針對性地防止、打擊數據造假。

數據是一種資源，但數據又跟煤、石油等物質性資源不一樣。物質性資源不可再生，你用多了，別人就用少了，因而很難共享。數據可以重復使用、不斷產生新的價值。大數據資源的使用是非惡性競爭的，共享的前提下，更能夠制造雙贏。從另一個角度來說，數據如果不被融合、聯(lián)系在一起，也不能稱之為大數據。

大數據不能被直接拿來使用，統(tǒng)計學依然是數據分析的靈魂

現在社會上有一種流行的說法，認為在大數據時代，“樣本=全體”，人們得到的不是抽樣數據而是全數據，因而只需要簡單地數一數就可以下結論了，復雜的統(tǒng)計學方法可以不再需要了。

在我看來，這種觀點非常錯誤。首先，大數據告知信息但不解釋信息。打個比方說，大數據是“原油”而不是“汽油”，不能被直接拿來使用。就像股票市場，即使把所有的數據都公布出來，不懂的人依然不知道數據代表的信息。大數據時代，統(tǒng)計學依然是數據分析的靈魂。正如加州大學伯克利分校邁克爾·喬丹教授指出的，“沒有系統(tǒng)的數據科學作為指導的大數據研究，就如同不利用工程科學的知識來建造橋梁，很多橋梁可能會坍塌，并帶來嚴重的后果?！?/span>

其次，全數據的概念本身很難經得起推敲。全數據，顧名思義就是全部數據。這在某些特定的場合對于某些特定的問題確實可能實現。比如，要比較清華、北大兩校同學數學能力整體上哪個更強，可以收集到兩校同學高考時的數學成績作為研究的數據對象。從某種意義上說，這是全數據。但是，并不是說我們有了這個全數據就能很好地回答問題。

一方面，這個數據雖然是全數據，但仍然具有不確定性。入校時的數學成績并不一定完全代表學生的數學能力。假如讓所有同學重新參加一次高考，幾乎每個同學都會有一個新的成績。分別用這兩組全數據去做分析，結論就可能發(fā)生變化。另一方面，事物在不斷地發(fā)展和變化，同學入校時的成績并不能夠代表現在的能力。全體同學的高考成績數據，僅對于那次考試而言是全數據?！叭笔怯羞吔绲?，超出了邊界就不再是全知全能了。事物的發(fā)展充滿了不確定性，而統(tǒng)計學，既研究如何從數據中把信息和規(guī)律提取出來，找出最優(yōu)化的方案；也研究如何把數據當中的不確定性量化出來。

所以說，在大數據時代，數據分析的很多根本性問題和小數據時代并沒有本質區(qū)別。當然，大數據的特點，確實對數據分析提出了全新挑戰(zhàn)。例如，許多傳統(tǒng)統(tǒng)計方法應用到大數據上，巨大計算量和存儲量往往使其難以承受；對結構復雜、來源多樣的數據，如何建立有效的統(tǒng)計學模型也需要新的探索和嘗試。對于新時代的數據科學而言，這些挑戰(zhàn)也同時意味著巨大的機遇，有可能會產生新的思想、方法和技術。