大數(shù)據(jù):從因果分析到相關(guān)性分析

大數(shù)據(jù)已經(jīng)不再是計算、統(tǒng)計學科的專寵，商學院開始的廣泛應(yīng)用，表明大數(shù)據(jù)正式進入各行業(yè)的廣泛應(yīng)用。統(tǒng)計學家納特·西爾弗在著名的《信號和噪聲》一書中說：“大數(shù)據(jù)中大多數(shù)都是不相干的噪音。除非有很好的技術(shù)信息進行過濾和處理，否則將惹上麻煩?！?/span>

杜克大學富卡商學院今年秋季開始招收大數(shù)據(jù)商業(yè)分析方向的碩士生，西安交通大學管理學院也將錄取海外大數(shù)據(jù)分析的博士生作為新錄取教職人員的重點之一。大數(shù)據(jù)已經(jīng)不再是計算、統(tǒng)計學科的專寵，商學院開始的廣泛應(yīng)用，表明大數(shù)據(jù)正式進入各行業(yè)的廣泛應(yīng)用。

統(tǒng)計學家納特·西爾弗在著名的《信號和噪聲》(Nate Silver, The Signal and the Noise)一書中說：“大數(shù)據(jù)中大多數(shù)都是不相干的噪音。除非有很好的技術(shù)信息進行過濾和處理，否則將惹上麻煩。”也就是說，大數(shù)據(jù)為我們提供了觀察世界的新方式，但它往往還是類似原油粗糙的形式，沒有商學院的提煉與應(yīng)用，它就無法變成汽油、膠粘劑、阿司匹林，唇膏等各種現(xiàn)代工業(yè)產(chǎn)品。對于大數(shù)據(jù)來說，我們今天的時代，就像是德州剛發(fā)現(xiàn)油田的時代，它在信息時代的廣泛應(yīng)用與消費，需要各個學科的通力協(xié)作、更換思維，正如石油的發(fā)現(xiàn)催生工業(yè)時代的能源革命一樣。

從因果分析到相關(guān)性分析

在“前信息時代”，商學院分析消費者行為、市場結(jié)構(gòu)、競爭動態(tài)、組織行為、供應(yīng)鏈管理時，都局限于有限的樣本。因為收集消費者、員工、股票、工廠等的數(shù)據(jù)都非常耗時，需要承擔各種成本。即使像IBM這樣的巨型公司，有能力將《人民日報》歷年的文本輸入電腦，試圖破譯中文的語言結(jié)構(gòu)，例如實現(xiàn)中文的語音輸入或者中英互譯，這項技術(shù)在上世紀90年代就取得突破，但進展緩慢，在應(yīng)用中還是有很多問題。

谷歌采取了不同的方法進入這個市場，它不是依賴高品質(zhì)的翻譯，而是利用更多的數(shù)據(jù)。這家搜索巨頭收集各種企業(yè)網(wǎng)站的翻譯、歐盟的每一種語言的文本、巨大的圖書掃描項目中的翻譯文件。超越IBM以百萬級的文本分析，谷歌的大數(shù)據(jù)是以十億萬級計的。其結(jié)果是，它的翻譯質(zhì)量優(yōu)于IBM，能涵蓋65種語言，而且翻譯質(zhì)量在云端不斷優(yōu)化。谷歌凌亂的大數(shù)據(jù)戰(zhàn)勝了IBM少量的干凈數(shù)據(jù)。

那怎樣將凌亂的大數(shù)據(jù)進行對石油一樣的提煉與應(yīng)用呢?一項重要的思維轉(zhuǎn)換就是從傳統(tǒng)的因果分析向相關(guān)性分析轉(zhuǎn)換。在傳統(tǒng)的統(tǒng)計分析中，一個重要的因素是因果關(guān)系的可靠性，在有限的樣本下，科學家在假設(shè)檢驗中往往用各種專業(yè)統(tǒng)計軟件進行假設(shè)檢驗，根據(jù)概率P值(P-Value, Probability)進行檢驗決策。P值反映某一事件發(fā)生的可能性大小，一般以P < 0.05 為顯著，從而確認兩個變量間可能存在因果關(guān)系。

但大數(shù)據(jù)的出現(xiàn)改變了這種在科學界普遍追求的因果關(guān)系的檢驗。大數(shù)據(jù)主要從相關(guān)性著手，而不是因果關(guān)系，這從本質(zhì)上改變了傳統(tǒng)數(shù)據(jù)的開采模式。例如2009年2月，谷歌的研究人員在《自然》發(fā)表了一篇論文，預測季節(jié)性流感的暴發(fā)，在醫(yī)療保健界引起了轟動。谷歌對2003年和2008年間的5000萬最常搜索的詞條進行大數(shù)據(jù)“訓練”， 試圖發(fā)現(xiàn)某些搜索詞條的地理位置是否與美國流感疾病預防和控制中心的數(shù)據(jù)相關(guān)。疾病預防控制中心往往跟蹤全國各地的醫(yī)院和診所病人，但它發(fā)布的信息往往會滯后1～2個星期，但谷歌的大數(shù)據(jù)卻是發(fā)現(xiàn)實時的趨勢。

谷歌并沒有直接推斷哪些查詢詞條是最好的指標。相反，為了測試這些檢索詞條，谷歌總共處理了4.5億個不同的數(shù)字模型，將得出的預測與2007年和2008年疾病預防控制中心記錄的實際流感病例進行對比后，谷歌公司發(fā)現(xiàn)，它們的大數(shù)據(jù)處理結(jié)果發(fā)現(xiàn)了45條檢索詞條的組合，一旦將它們用于一個數(shù)學模型，它們的預測與官方數(shù)據(jù)的相關(guān)性高達97%。

數(shù)據(jù)往往都是不完美的，拼寫錯誤和不完整短語很普遍。為什么谷歌可以實現(xiàn)這么精準的預測?如果從因果關(guān)系看，是因為人感到不舒服，或聽到別人打噴嚏，或者閱讀了相關(guān)的新聞后感到焦慮嗎?谷歌不是從這種因果關(guān)系去考慮，而是從相關(guān)性的角度，去預測一個持續(xù)發(fā)展的大方向，因為大眾的搜索詞條處于不斷變化之中，外界的一個蝴蝶翅膀的扇動，就會使搜索發(fā)生系統(tǒng)的、混沌的變化。

英國華威商學院的研究人員與波士頓大學物理系的研究人員合作，同樣通過谷歌趨勢(Google Trends)服務(wù)，預測股市的漲跌。研究人員使用谷歌趨勢共計追蹤了98個搜索關(guān)鍵詞，其中包括“債務(wù)”、“股票”、“投資組合”、“失業(yè)”、“市場”等與投資行為相關(guān)的詞，也包括“生活方式”、“藝術(shù)”、“快樂”、“戰(zhàn)爭”、“沖突”、“政治”等與投資無關(guān)的關(guān)鍵詞，發(fā)現(xiàn)有些詞條，例如“債務(wù)”成為預測股市的主要關(guān)鍵詞，這篇題為《使用谷歌趨勢量化金融市場的交易行為》(Quantifying Trading Behavior in Financial Markets Using Google Trends)的論文也發(fā)表在《自然》雜志上。同樣，2010年，美國印第安納大學的研究人員也發(fā)現(xiàn)：Twitter用戶的情緒有助于預測股市。今年諾貝爾經(jīng)濟學獎獲得者羅伯特·席勒所倡導的“動物精神”，在大數(shù)據(jù)的相關(guān)性檢驗下，可以對資產(chǎn)定價實現(xiàn)預測。

當然，谷歌的算法并不是百試百靈，例如，今年早些時候的“谷歌流感趨勢”曾經(jīng)顯示，有10%的美國人可能患上了流感。但美國疾病控制和預防中心的數(shù)據(jù)卻顯示，峰值只有6%左右(參見圖示)。經(jīng)過研究發(fā)現(xiàn)，原來這是因為谷歌的算法未能充分考慮一些新的外部影響因素所致。例如，媒體對流感的報道增多和社交媒體對流感的討論增加，都會對該服務(wù)的數(shù)據(jù)和統(tǒng)計信息產(chǎn)生影響。流感新聞大爆炸很大程度上改變了人們的搜索詞條。這使人聯(lián)想到物理學中經(jīng)典的“測不準原理”。物理學家玻爾認為在量子理論中，任何對原子體系的觀測，都會涉及所觀測對象在觀測過程中的改變，和谷歌的算法一樣，我們自身的行為可能也在谷歌的觀測中改變，因此不可能對量子有單一的定義，也不可能對谷歌預測的趨勢用平常所謂的因果性去理解。

大數(shù)據(jù)與中國哲學

當大數(shù)據(jù)占據(jù)我們這個信息社會的中心舞臺，我們需要一種新的思維方式理解這個世界。傳統(tǒng)知識觀中的因果律遭到極大的挑戰(zhàn)，而相關(guān)性則讓我們從對過去的理解，解放出對未來的預測。

從知識論的角度看，大數(shù)據(jù)像量子力學一樣，幫助我們進入宇宙的大尺度結(jié)構(gòu)?；蛟S中國古典哲學中的“氣運”觀能夠讓我們更容易地理解大數(shù)據(jù)所揭示的新世界。錢穆在《中國思想通俗講座》中闡述道：氣是如何演變出宇宙萬物的呢?氣是能動的、不安靜的，在聚散，在分合……“聚而和者為氣之陽，稱為‘陽氣’。分而散者為氣之陰，稱之為‘陰氣’。”這一陰一陽，就是中國人所謂的道。一切的氣數(shù)與運道都可以在陰陽循環(huán)、消長中體現(xiàn)出來。在沒有大數(shù)據(jù)的工業(yè)時代，陰陽觀無法像西方哲學那樣解釋直線的因果關(guān)系，可能與迷信、神秘主義聯(lián)系在一起。而大數(shù)據(jù)的興起，使人類第一次有了直接的工具來衡量陰陽的變化、預測氣運的消漲。陰陽五行之說，可以直接在谷歌算法的各種迭代相生相克出來。如果席勒所說的“動物精神”理論真的可以預測奧地利學派的經(jīng)濟循環(huán)周期，大數(shù)據(jù)所揭示的陰陽循環(huán)，或許可以幫助人類提早對下一次全球經(jīng)濟危機做好準備。

從更廣的層面說，如果每一個平民都能自由接觸到大數(shù)據(jù)的分析(而不是政府壟斷)，一個全新的思考方式就是，數(shù)據(jù)不再是《1984》世界中冰冷的老大哥控制的機器，每個人都可以將自己個體的因素沉浸在系統(tǒng)中，影響系統(tǒng)的方向與決策，人的各種因素：風險、意外、熱愛、冷酷，甚至錯誤，都可以在大數(shù)據(jù)中的陰陽變化中體現(xiàn)出來。人類的各種自覺、創(chuàng)造也可以通過大數(shù)據(jù)進行更快地實驗、更多的探索。人類靈感產(chǎn)生的各種火花第一次可以通過大數(shù)據(jù)多方面多層次爆發(fā)出來，這將是個美麗的新世界——人類的創(chuàng)造力可以在大數(shù)據(jù)中充分得到精彩的發(fā)現(xiàn)!

對市場營銷者來說，大數(shù)據(jù)是個無盡的寶藏。人類的各個層面、各種環(huán)境的影響，例如如天氣變化和市場情緒的變化，都可以在對廣告的分析中展現(xiàn)出來，用戶的畫像將會實時展現(xiàn)得無比真實、如何分配和優(yōu)化媒體投資，如何設(shè)計產(chǎn)品屬性、如何精準地定位……一個無比強大的工具將改變商業(yè)的許多決策。

但大數(shù)據(jù)能否取代創(chuàng)業(yè)家呢?360、小米、微信、QQ等產(chǎn)品雖然可能得益于大數(shù)據(jù)驅(qū)動的用戶畫像與產(chǎn)品循環(huán)迭代，但創(chuàng)業(yè)家的靈感、承擔風險的勇氣、對市場的敏感與觸覺，還有那么一點點的天時地利中的運氣，則變得更加重要，因為對數(shù)據(jù)的提煉、應(yīng)用、解讀、判斷的各個環(huán)節(jié)，都對人類的想象力，提供了永恒的挑戰(zhàn)。

盡人力，知天命，天下之大，其興其亡，盡在大數(shù)據(jù)的宇宙中?；蛟S杜克大學的數(shù)據(jù)分析碩士也應(yīng)該選修點中國哲學。