采集和分析大數(shù)據(jù)時(shí)所面臨的問題

你或許很熟悉這樣一個(gè)統(tǒng)計(jì)結(jié)論：世界90%的數(shù)據(jù)是過(guò)去幾年里產(chǎn)生的。事實(shí)上，過(guò)去三十年中，全世界的數(shù)據(jù)量大約每?jī)赡暝黾?0倍——遠(yuǎn)遠(yuǎn)超過(guò)了計(jì)算機(jī)領(lǐng)域的摩爾定律。

這樣的信息增長(zhǎng)速率會(huì)帶來(lái)一些問題，其中之一便是現(xiàn)時(shí)的數(shù)據(jù)量總是遠(yuǎn)遠(yuǎn)超過(guò)即使最近的過(guò)去。想象你正在通過(guò)一本相片簿回顧人生的頭18年，假設(shè)在兩歲時(shí)你有兩張照片，如果信息增長(zhǎng)速率與世界數(shù)據(jù)量相同，那么在你6到8歲時(shí)，你會(huì)有驚人的2000張照片；10到12歲時(shí)有20萬(wàn)張照片；而在16到18歲時(shí)，照片數(shù)量會(huì)達(dá)到2億張，相當(dāng)于在最后兩年中，每秒有3張以上的照片。

當(dāng)然，這并非是全球數(shù)據(jù)增長(zhǎng)情況的完美類比。首先，世界大部分?jǐn)?shù)據(jù)的增長(zhǎng)源于有更多的人創(chuàng)造出了更多的信息來(lái)源，同時(shí)伴隨更大、更精細(xì)的格式。不過(guò)，有關(guān)比例的觀點(diǎn)還是成立的。如果你像前述的例子那樣回顧以往的記錄，或者試圖進(jìn)行分析，那距離越久遠(yuǎn)的過(guò)去就會(huì)變得越無(wú)關(guān)緊要。

這就是目前采集和分析大數(shù)據(jù)時(shí)所面臨的問題。當(dāng)你開始以更長(zhǎng)遠(yuǎn)的視角往前回溯時(shí)，會(huì)發(fā)現(xiàn)近期的事情太多，而以前的事情太少。短視是結(jié)構(gòu)性的，對(duì)短期趨勢(shì)的過(guò)度估計(jì)是壓倒性的，同時(shí)卻忽略了歷史的經(jīng)驗(yàn)教訓(xùn)。

為了理解這個(gè)問題的重要性，需要考慮社會(huì)科學(xué)中有關(guān)“近期偏差”（recency bias，又稱近因效應(yīng)）的研究發(fā)現(xiàn)。近期偏差是指在判斷趨勢(shì)時(shí)，認(rèn)為未來(lái)事件與近期體驗(yàn)更加類似。這可以說(shuō)是某種“可利用性法則”（availability heuristic） ——不恰當(dāng)?shù)匾宰钊菀妆恢X到的信息來(lái)作為思考的基礎(chǔ)。這還是一種普遍的心理學(xué)特征。舉例來(lái)說(shuō)，如果在你居住的地方，過(guò)去幾年中夏季都異乎尋常地寒冷，你 可能會(huì)認(rèn)為夏天正在變得更冷——或者說(shuō)你當(dāng)?shù)氐臍夂蛘谧兝?。事?shí)上，你不應(yīng)當(dāng)把任何東西都塞到數(shù)據(jù)里分析。你需要有一個(gè)長(zhǎng)遠(yuǎn)的視角，才能認(rèn)識(shí)真正有意義的氣候趨勢(shì)。在短時(shí)期內(nèi)，你最好不進(jìn)行任何猜測(cè)。不過(guò)，我們之中又有誰(shuí)能真正做到這點(diǎn)呢？

現(xiàn)實(shí)生活中大部分復(fù)雜的趨勢(shì)正是如此：股票市場(chǎng)、經(jīng)濟(jì)發(fā)展、企業(yè)的成功或失敗、戰(zhàn)爭(zhēng)或和平、國(guó)家關(guān)系、帝國(guó)的崛起和衰落等等。短期分析不僅不夠扎實(shí)，而且毫無(wú)益處甚至?xí)?lái)誤導(dǎo)?？纯?009年金融危機(jī)即將到來(lái)的時(shí)候，還有那么多經(jīng)濟(jì)學(xué)家信誓旦旦地宣稱這一事件不會(huì)發(fā)生。認(rèn)為從那種時(shí)間尺度的數(shù)據(jù)就能做出扎實(shí)的預(yù)測(cè)，本身就有很大的問題。

我們還應(yīng)當(dāng)記住，在決定哪些數(shù)據(jù)是保存還是刪除的時(shí)候，新穎性往往會(huì)成為主要的考慮因素。舊的淘汰，新的進(jìn)來(lái)，在這個(gè)搜索算法本質(zhì)上偏向于新鮮事物的數(shù)字世界中，這是明顯的趨勢(shì)。從高等法院的裁決，到所有的社交媒體服務(wù)平臺(tái)上，我們到處都可以看到已經(jīng)失效的網(wǎng)址。對(duì)當(dāng)前的偏好已經(jīng)滲透到我們身邊幾乎所有的技 術(shù)中，大多數(shù)人已經(jīng)習(xí)慣用個(gè)四五年就把原本光鮮亮麗的機(jī)器拋棄。

怎么辦？這不僅是一個(gè)如何更好保存舊數(shù)據(jù)的問題——盡管這并不是個(gè)壞主意，想想我們現(xiàn)在還有什么東西能保留10年的。更重要的是，這個(gè)問題關(guān)系到確定哪些東西值得優(yōu)先保存，如何在知識(shí)的名義下，確定哪些信息最有意義。

或許我們需要的是“智能遺忘”：讓我們的工具變得更會(huì)放棄最近的過(guò)去，從而在整體視角上保持更大的連續(xù)性。這有點(diǎn)像是重新組織一本相片簿，盡管加上了更多的 數(shù)學(xué)方法。什么時(shí)候兩百萬(wàn)張照片的價(jià)值比兩千張照片更低？什么時(shí)候較大的樣品覆蓋的范圍反而較??？什么時(shí)候細(xì)節(jié)水平能提供有用的質(zhì)疑證據(jù)，而不是虛假的自信？

許多數(shù)據(jù)集是無(wú)法縮減的，而且在完整的情況下才最寶貴，比如，基因序列、人口統(tǒng)計(jì)學(xué)數(shù)據(jù)、地理和物理學(xué)的原始觀測(cè)數(shù)據(jù)等?？茖W(xué)性越弱，數(shù)據(jù)規(guī)模與數(shù)據(jù)的質(zhì)量更可能呈現(xiàn)負(fù)相關(guān)，此時(shí)時(shí)間本身就成為更加重要的過(guò)濾工具。我們?nèi)绻蛔屑?xì)選擇過(guò)去保存下來(lái)的有價(jià)值、有意義的東西，那它們就會(huì)悄無(wú)聲息地淹沒在如今日益增長(zhǎng)的噪音之中。

今天的企業(yè)、個(gè)人和政府機(jī)構(gòu)都能夠獲得比以往（甚至就在幾年前）大許多數(shù)量級(jí)的數(shù)據(jù)，但這些數(shù)據(jù)并沒有獲得更多的處理時(shí)間。利用越來(lái)越高效的工具，董事會(huì)成員、首席執(zhí)行官、政府官員等決策者可以就已有的信息提出更有意義的問題。單純的堆積不是問題的答案。在一個(gè)數(shù)據(jù)量越來(lái)越大的時(shí)代，如何選擇不知道哪些事情，與選擇做什么事情一樣重要。