大數(shù)據(jù)的想象力：從因果關(guān)系到相關(guān)性分析

對于大數(shù)據(jù)來說，我們今天的時(shí)代，就像是德州剛發(fā)現(xiàn)油田的時(shí)代，它在信息時(shí)代的廣泛應(yīng)用與消費(fèi)，需要各個學(xué)科的通力協(xié)作、更換思維，正如石油的發(fā)現(xiàn)催生工業(yè)時(shí)代的能源革命一樣。

從因果分析到相關(guān)性分析

在“前信息時(shí)代”，商學(xué)院分析消費(fèi)者行為、市場結(jié)構(gòu)、競爭動態(tài)、組織行為、供應(yīng)鏈管理時(shí)，都局限于有限的樣本。因?yàn)槭占M(fèi)者、員工、股票、工廠等的數(shù)據(jù)都非常耗時(shí)，需要承擔(dān)各種成本。

即使像IBM這樣的巨型公司，有能力將《人民日報(bào)》歷年的文本輸入電腦，試圖破譯中文的語言結(jié)構(gòu)，例如實(shí)現(xiàn)中文的語音輸入或者中英互譯，這項(xiàng)技術(shù)在上世紀(jì)90年代就取得突破，但進(jìn)展緩慢，在應(yīng)用中還是有很多問題。

谷歌采取了不同的方法進(jìn)入這個市場，它不是依賴高品質(zhì)的翻譯，而是利用更多的數(shù)據(jù)。這家搜索巨頭收集各種企業(yè)網(wǎng)站的翻譯、歐盟的每一種語言的文本、巨大的圖書掃描項(xiàng)目中的翻譯文件。超越IBM以百萬級的文本分析，谷歌的大數(shù)據(jù)是以十億萬級計(jì)的。其結(jié)果是，它的翻譯質(zhì)量優(yōu)于IBM，能涵蓋65種語言，而且翻譯質(zhì)量在云端不斷優(yōu)化。谷歌凌亂的大數(shù)據(jù)戰(zhàn)勝了IBM少量的干凈數(shù)據(jù)。

那怎樣將凌亂的大數(shù)據(jù)進(jìn)行對石油一樣的提煉與應(yīng)用呢？一項(xiàng)重要的思維轉(zhuǎn)換就是從傳統(tǒng)的因果分析向相關(guān)性分析轉(zhuǎn)換。在傳統(tǒng)的統(tǒng)計(jì)分析中，一個重要的因素是因果關(guān)系的可靠性，在有限的樣本下，科學(xué)家在假設(shè)檢驗(yàn)中往往用各種專業(yè)統(tǒng)計(jì)軟件進(jìn)行假設(shè)檢驗(yàn)，根據(jù)概率P值（P-Value, Probability）進(jìn)行檢驗(yàn)決策。P值反映某一事件發(fā)生的可能性大小，一般以P < 0.05 為顯著，從而確認(rèn)兩個變量間可能存在因果關(guān)系。

但大數(shù)據(jù)的出現(xiàn)改變了這種在科學(xué)界普遍追求的因果關(guān)系的檢驗(yàn)。大數(shù)據(jù)主要從相關(guān)性著手，而不是因果關(guān)系，這從本質(zhì)上改變了傳統(tǒng)數(shù)據(jù)的開采模式。例如2009年2月，谷歌的研究人員在《自然》發(fā)表了一篇論文，預(yù)測季節(jié)性流感的暴發(fā)，在醫(yī)療保健界引起了轟動。

谷歌對2003年和2008年間的5000萬最常搜索的詞條進(jìn)行大數(shù)據(jù)“訓(xùn)練”， 試圖發(fā)現(xiàn)某些搜索詞條的地理位置是否與美國流感疾病預(yù)防和控制中心的數(shù)據(jù)相關(guān)。疾病預(yù)防控制中心往往跟蹤全國各地的醫(yī)院和診所病人，但它發(fā)布的信息往往會滯后1～2個星期，但谷歌的大數(shù)據(jù)卻是發(fā)現(xiàn)實(shí)時(shí)的趨勢。

谷歌并沒有直接推斷哪些查詢詞條是最好的指標(biāo)。相反，為了測試這些檢索詞條，谷歌總共處理了4.5億個不同的數(shù)字模型，將得出的預(yù)測與2007年和2008年疾病預(yù)防控制中心記錄的實(shí)際流感病例進(jìn)行對比后，谷歌公司發(fā)現(xiàn)，它們的大數(shù)據(jù)處理結(jié)果發(fā)現(xiàn)了45條檢索詞條的組合，一旦將它們用于一個數(shù)學(xué)模型，它們的預(yù)測與官方數(shù)據(jù)的相關(guān)性高達(dá)97%。

數(shù)據(jù)往往都是不完美的，拼寫錯誤和不完整短語很普遍。為什么谷歌可以實(shí)現(xiàn)這么精準(zhǔn)的預(yù)測？如果從因果關(guān)系看，是因?yàn)槿烁械讲皇娣?，或聽到別人打噴嚏，或者閱讀了相關(guān)的新聞后感到焦慮嗎？谷歌不是從這種因果關(guān)系去考慮，而是從相關(guān)性的角度，去預(yù)測一個持續(xù)發(fā)展的大方向，因?yàn)榇蟊姷乃阉髟~條處于不斷變化之中，外界的一個蝴蝶翅膀的扇動，就會使搜索發(fā)生系統(tǒng)的、混沌的變化。

英國華威商學(xué)院的研究人員與波士頓大學(xué)物理系的研究人員合作，同樣通過谷歌趨勢（Google Trends）服務(wù)，預(yù)測股市的漲跌。研究人員使用谷歌趨勢共計(jì)追蹤了98個搜索關(guān)鍵詞，其中包括“債務(wù)”、“股票”、“投資組合”、“失業(yè)”、“市場”等與投資行為相關(guān)的詞，也包括“生活方式”、“藝術(shù)”、“快樂”、“戰(zhàn)爭”、“沖突”、“政治”等與投資無關(guān)的關(guān)鍵詞，發(fā)現(xiàn)有些詞條，例如“債務(wù)”成為預(yù)測股市的主要關(guān)鍵詞，這篇題為《使用谷歌趨勢量化金融市場的交易行為》（Quantifying Trading Behavior in Financial Markets Using Google Trends）的論文也發(fā)表在《自然》雜志上。

同樣，2010年，美國印第安納大學(xué)的研究人員也發(fā)現(xiàn)：Twitter用戶的情緒有助于預(yù)測股市。今年諾貝爾經(jīng)濟(jì)學(xué)獎獲得者羅伯特·席勒所倡導(dǎo)的“動物精神”，在大數(shù)據(jù)的相關(guān)性檢驗(yàn)下，可以對資產(chǎn)定價(jià)實(shí)現(xiàn)預(yù)測。

當(dāng)然，谷歌的算法并不是百試百靈，例如，今年早些時(shí)候的“谷歌流感趨勢”曾經(jīng)顯示，有10%的美國人可能患上了流感。但美國疾病控制和預(yù)防中心的數(shù)據(jù)卻顯示，峰值只有6%左右（參見圖示）。經(jīng)過研究發(fā)現(xiàn)，原來這是因?yàn)楣雀璧乃惴ㄎ茨艹浞挚紤]一些新的外部影響因素所致。例如，媒體對流感的報(bào)道增多和社交媒體對流感的討論增加，都會對該服務(wù)的數(shù)據(jù)和統(tǒng)計(jì)信息產(chǎn)生影響。

流感新聞大爆炸很大程度上改變了人們的搜索詞條。這使人聯(lián)想到物理學(xué)中經(jīng)典的“測不準(zhǔn)原理”。物理學(xué)家玻爾認(rèn)為在量子理論中，任何對原子體系的觀測，都會涉及所觀測對象在觀測過程中的改變，和谷歌的算法一樣，我們自身的行為可能也在谷歌的觀測中改變，因此不可能對量子有單一的定義，也不可能對谷歌預(yù)測的趨勢用平常所謂的因果性去理解。

紅線是谷歌算法的預(yù)測值    藍(lán)線是疾病預(yù)防控制中心記錄的實(shí)際流感病例

大數(shù)據(jù)與中國哲學(xué)

當(dāng)大數(shù)據(jù)占據(jù)我們這個信息社會的中心舞臺，我們需要一種新的思維方式理解這個世界。傳統(tǒng)知識觀中的因果律遭到極大的挑戰(zhàn)，而相關(guān)性則讓我們從對過去的理解，解放出對未來的預(yù)測。

從知識論的角度看，大數(shù)據(jù)像量子力學(xué)一樣，幫助我們進(jìn)入宇宙的大尺度結(jié)構(gòu)。或許中國古典哲學(xué)中的“氣運(yùn)”觀能夠讓我們更容易地理解大數(shù)據(jù)所揭示的新世界。

錢穆在《中國思想通俗講座》中闡述道：氣是如何演變出宇宙萬物的呢？氣是能動的、不安靜的，在聚散，在分合……“聚而和者為氣之陽，稱為‘陽氣’。分而散者為氣之陰，稱之為‘陰氣’。”這一陰一陽，就是中國人所謂的道。一切的氣數(shù)與運(yùn)道都可以在陰陽循環(huán)、消長中體現(xiàn)出來。

在沒有大數(shù)據(jù)的工業(yè)時(shí)代，陰陽觀無法像西方哲學(xué)那樣解釋直線的因果關(guān)系，可能與迷信、神秘主義聯(lián)系在一起。而大數(shù)據(jù)的興起，使人類第一次有了直接的工具來衡量陰陽的變化、預(yù)測氣運(yùn)的消漲。陰陽五行之說，可以直接在谷歌算法的各種迭代相生相克出來。如果席勒所說的“動物精神”理論真的可以預(yù)測奧地利學(xué)派的經(jīng)濟(jì)循環(huán)周期，大數(shù)據(jù)所揭示的陰陽循環(huán)，或許可以幫助人類提早對下一次全球經(jīng)濟(jì)危機(jī)做好準(zhǔn)備。

從更廣的層面說，如果每一個平民都能自由接觸到大數(shù)據(jù)的分析（而不是政府壟斷），一個全新的思考方式就是，數(shù)據(jù)不再是《1984》世界中冰冷的老大哥控制的機(jī)器，每個人都可以將自己個體的因素沉浸在系統(tǒng)中，影響系統(tǒng)的方向與決策，人的各種因素：風(fēng)險(xiǎn)、意外、熱愛、冷酷，甚至錯誤，都可以在大數(shù)據(jù)中的陰陽變化中體現(xiàn)出來。

人類的各種自覺、創(chuàng)造也可以通過大數(shù)據(jù)進(jìn)行更快地實(shí)驗(yàn)、更多的探索。人類靈感產(chǎn)生的各種火花第一次可以通過大數(shù)據(jù)多方面多層次爆發(fā)出來，這將是個美麗的新世界——人類的創(chuàng)造力可以在大數(shù)據(jù)中充分得到精彩的發(fā)現(xiàn)！

對市場營銷者來說，大數(shù)據(jù)是個無盡的寶藏。人類的各個層面、各種環(huán)境的影響，例如如天氣變化和市場情緒的變化，都可以在對廣告的分析中展現(xiàn)出來，用戶的畫像將會實(shí)時(shí)展現(xiàn)得無比真實(shí)、如何分配和優(yōu)化媒體投資，如何設(shè)計(jì)產(chǎn)品屬性、如何精準(zhǔn)地定位……一個無比強(qiáng)大的工具將改變商業(yè)的許多決策。

但大數(shù)據(jù)能否取代創(chuàng)業(yè)家呢？360、小米、微信、QQ等產(chǎn)品雖然可能得益于大數(shù)據(jù)驅(qū)動的用戶畫像與產(chǎn)品循環(huán)迭代，但創(chuàng)業(yè)家的靈感、承擔(dān)風(fēng)險(xiǎn)的勇氣、對市場的敏感與觸覺，還有那么一點(diǎn)點(diǎn)的天時(shí)地利中的運(yùn)氣，則變得更加重要，因?yàn)閷?shù)據(jù)的提煉、應(yīng)用、解讀、判斷的各個環(huán)節(jié)，都對人類的想象力，提供了永恒的挑戰(zhàn)。

盡人力，知天命，天下之大，其興其亡，盡在大數(shù)據(jù)的宇宙中。

或許杜克大學(xué)的數(shù)據(jù)分析碩士也應(yīng)該選修點(diǎn)中國哲學(xué)。