對大數(shù)據(jù)分析錯誤認識那么多 舍恩伯格你知道嗎?

隨著大數(shù)據(jù)時代的到來，很多人對大數(shù)據(jù)產(chǎn)生了濃厚的興趣，然而，大數(shù)據(jù)只是一個新概念，很多認識都是不正確的。

大數(shù)據(jù)產(chǎn)生的背景是整個社會走向數(shù)字化，特別是社交網(wǎng)絡(luò)和各種傳感設(shè)備的發(fā)展。大數(shù)據(jù)分析擁有自身的特點，與計量經(jīng)濟學既有區(qū)別又有聯(lián)系。當前對大數(shù)據(jù)的分析存在許多流行觀點，但其中很多核心觀點都值得商榷。

大數(shù)據(jù)產(chǎn)生的背景是整個社會走向數(shù)字化，特別是社交網(wǎng)絡(luò)和各種傳感設(shè)備的發(fā)展。云計算和搜索引擎的發(fā)展，使得對大數(shù)據(jù)的高效分析成為可能，核心問題是如何在種類繁多、數(shù)量龐大的數(shù)據(jù)中快速獲取有價值信息。大數(shù)據(jù)在社會分析、科學發(fā)現(xiàn)和商業(yè)決策中的作用越來越大，金融只是其中的一個應(yīng)用領(lǐng)域。

什么是大數(shù)據(jù)

大數(shù)據(jù)是一個新概念，英文中至少有三個名稱：大數(shù)據(jù)（big data）、大尺度數(shù)據(jù)（big scale data）和大規(guī)模數(shù)據(jù)（massive data），至今未形成統(tǒng)一定義。但一般認為大數(shù)據(jù)具有四個基本特征（即所謂4V特征）：數(shù)據(jù)體量龐大（volume）、價值密度低（value, 也有人理解成應(yīng)用價值巨大）、來源廣泛和特征多樣（variety）、增長速度快（velocity, 也有人理解成需要高速分析能力）。

從學術(shù)角度，對大數(shù)據(jù)的討論基本屬于數(shù)據(jù)科學（Data Science）和數(shù)據(jù)挖掘（Data Mining）的范疇。

對大數(shù)據(jù)分析的主流誤解

舍恩伯格與合作者的《大數(shù)據(jù)時代》非常流行，但里面的很多核心觀點都值得商榷。

第一，他們認為，大數(shù)據(jù)分析不是針對隨機樣本，而是全體數(shù)據(jù)。盡管數(shù)據(jù)收集和分析手段足夠發(fā)達后，對全部數(shù)據(jù)的收集和分析成為可能，但從成本收益上衡量，這樣做不是總有必要。根據(jù)中心極限定理，統(tǒng)計分析質(zhì)量與樣本數(shù)量之間存在平方根關(guān)系。比如，樣本數(shù)量提高100倍，分析質(zhì)量提高10倍。而統(tǒng)計分析工作量與樣本數(shù)量之間存在線性關(guān)系。比如，樣本數(shù)量提高100倍，存儲和計算量一般增加100倍。這樣，樣本數(shù)量增長到一定程度后，新增工作量對應(yīng)的成本就會超過質(zhì)量提高產(chǎn)生的好處。因此，通過科學設(shè)計的抽樣調(diào)查獲得有代表性的樣本，在大數(shù)據(jù)分析中仍有價值。

第二，他們還認為，大數(shù)據(jù)分析不是因果關(guān)系，而是相關(guān)關(guān)系。這個說法在統(tǒng)計學中是老生常談，不是什么新觀點。統(tǒng)計學基于相關(guān)關(guān)系，只能被用來證偽因果關(guān)系，而不能被用來證實因果關(guān)系。大數(shù)據(jù)分析的基礎(chǔ)理論也是概率論和數(shù)理統(tǒng)計，從根本上就屬于相關(guān)關(guān)系的范疇。

第三，大數(shù)據(jù)分析也不是萬能的?；诖髷?shù)據(jù)的預(yù)測可以抽象表述為：用 表示已知信息，用 表示未知信息，尋找關(guān)于 的函數(shù) 作為 的預(yù)測。預(yù)測誤差是 ，用 （類似于均方誤差）來衡量預(yù)測效果。概率論有一個基本結(jié)論：

對任意 ，總有 ，其中等號僅當時才成立，所以 也被稱為最佳預(yù)測（best predictor）。

可以看出兩點結(jié)論：首先，大數(shù)據(jù)分析中，各種算法的核心任務(wù)是使 盡可能接近理論上的最優(yōu)預(yù)測 ；其次，即使在最優(yōu)預(yù)測上， 代表的預(yù)測誤差仍不能被消除，是內(nèi)生于信息結(jié)構(gòu)的。比如，即使信息技術(shù)非常發(fā)達，如果現(xiàn)實世界中仍有部分信息不能被數(shù)字化（從而不能用在大數(shù)據(jù)分析中），這部分被“塵封”的信息就決定了大數(shù)據(jù)分析的有效邊界。

第四，大數(shù)據(jù)能降低信息不對稱的程度，但不能消除隨機性（不確定性）；有助于評估風險（未來遭受損失的可能性，其中損失分布可計量），但不能消除奈特式不確定性（其中損失分布不可計量）。

大數(shù)據(jù)畢竟是一個新生兒，人們對它的認識會經(jīng)歷一個由誤解到正確認識的過程，對于舍恩伯格而言，他關(guān)于大數(shù)據(jù)的一些觀點，也有很多值得商榷的地方，畢竟理論需要實踐來檢驗。