大數(shù)據(jù)分析與計(jì)量經(jīng)濟(jì)學(xué)_數(shù)據(jù)分析師培訓(xùn)

大數(shù)據(jù)是一個(gè)新概念，大數(shù)據(jù)產(chǎn)生的背景是整個(gè)社會(huì)走向數(shù)字化，特別是社交網(wǎng)絡(luò)和各種傳感設(shè)備的發(fā)展。大數(shù)據(jù)分析擁有自身的特點(diǎn)，與計(jì)量經(jīng)濟(jì)學(xué)既有區(qū)別又有聯(lián)系。當(dāng)前對(duì)大數(shù)據(jù)的分析存在許多流行觀點(diǎn)，但其中很多核心觀點(diǎn)都值得商榷。
     大數(shù)據(jù)產(chǎn)生的背景是整個(gè)社會(huì)走向數(shù)字化，特別是社交網(wǎng)絡(luò)和各種傳感設(shè)備的發(fā)展。云計(jì)算和搜索引擎的發(fā)展，使得對(duì)大數(shù)據(jù)的高效分析成為可能，核心問(wèn)題是如何在種類繁多、數(shù)量龐大的數(shù)據(jù)中快速獲取有價(jià)值信息。大數(shù)據(jù)在社會(huì)分析、科學(xué)發(fā)現(xiàn)和商業(yè)決策中的作用越來(lái)越大，金融只是其中的一個(gè)應(yīng)用領(lǐng)域。
什么是大數(shù)據(jù)
     大數(shù)據(jù)是一個(gè)新概念，英文中至少有三個(gè)名稱：大數(shù)據(jù)（big data）、大尺度數(shù)據(jù)（big scale data）和大規(guī)模數(shù)據(jù)（massive data），至今未形成統(tǒng)一定義。但一般認(rèn)為大數(shù)據(jù)具有四個(gè)基本特征（即所謂4V特征）：數(shù)據(jù)體量龐大（volume）、價(jià)值密度低（value, 也有人理解成應(yīng)用價(jià)值巨大）、來(lái)源廣泛和特征多樣（variety）、增長(zhǎng)速度快（velocity, 也有人理解成需要高速分析能力）。
     從學(xué)術(shù)角度，對(duì)大數(shù)據(jù)的討論基本屬于數(shù)據(jù)科學(xué)（Data Science）和數(shù)據(jù)挖掘（Data Mining）的范疇。
     大數(shù)據(jù)的主要類型：第一類是記錄數(shù)據(jù)，即記錄的匯集，其中每個(gè)記錄包含固定的數(shù)據(jù)字段（或?qū)傩裕?。比如，?jì)量經(jīng)濟(jì)學(xué)中的橫截面數(shù)據(jù)，文檔數(shù)據(jù)，事務(wù)數(shù)據(jù)或購(gòu)物籃數(shù)據(jù)；第二類是基于圖形的數(shù)據(jù)，包括帶有數(shù)據(jù)對(duì)象之間聯(lián)系的數(shù)據(jù)和具有圖形對(duì)象的數(shù)據(jù)，比如網(wǎng)頁(yè)鏈接、化合物結(jié)構(gòu)；第三類是有序數(shù)據(jù)，包括時(shí)序數(shù)據(jù)、序列數(shù)據(jù)、空間數(shù)據(jù)。比如，宏觀經(jīng)濟(jì)指標(biāo)序列，金融價(jià)格序列，基因組序列，詞或字母的序列，同一時(shí)點(diǎn)上從不同的地理位置收集的氣象數(shù)據(jù)（溫度、濕度、氣壓等）。
     大數(shù)據(jù)分析的主要任務(wù)：第一類是預(yù)測(cè)任務(wù)，目標(biāo)是根據(jù)某些屬性的值，預(yù)測(cè)另外一些特定屬性的值。被預(yù)測(cè)的屬性一般稱為目標(biāo)變量或因變量，被用來(lái)做預(yù)測(cè)的屬性稱為解釋變量和自變量；第二類是描述任務(wù)，目標(biāo)是導(dǎo)出概括數(shù)據(jù)中潛在聯(lián)系的模式，包括相關(guān)、趨勢(shì)、聚類、軌跡和異常等。描述性任務(wù)通常是探查性的，常常需要后處理技術(shù)來(lái)驗(yàn)證和解釋結(jié)果。具體可分為分類、回歸、關(guān)聯(lián)分析、聚類分析、推薦系統(tǒng)、異常檢測(cè)、鏈接分析等幾種。
     大數(shù)據(jù)分析與計(jì)量經(jīng)濟(jì)學(xué)的差異與聯(lián)系
     大數(shù)據(jù)分析與計(jì)量經(jīng)濟(jì)學(xué)既有差異又有聯(lián)系。
     兩者的差異表現(xiàn)為：第一，兩者處理的數(shù)據(jù)類型不同。計(jì)量經(jīng)濟(jì)學(xué)處理結(jié)構(gòu)型數(shù)據(jù)，主要包括橫截面數(shù)據(jù)、時(shí)間序列數(shù)據(jù)和面板數(shù)據(jù)，一般能以excel表格的形式呈現(xiàn)，而且表格的行列都有清晰的經(jīng)濟(jì)學(xué)含義，有一致統(tǒng)計(jì)口徑。大數(shù)據(jù)分析能處理很多非結(jié)構(gòu)型數(shù)據(jù)，包括文檔、視頻、圖像，一般難以用excel表格的形式呈現(xiàn)。但這些非結(jié)構(gòu)型數(shù)據(jù)需要量化后才能分析，在量化中一般伴隨著信息損失。
     第二，兩者分析重點(diǎn)不同。計(jì)量經(jīng)濟(jì)學(xué)分析的重點(diǎn)是假設(shè)檢驗(yàn)，核心理念與波普的證偽主義非常接近。計(jì)量經(jīng)濟(jì)學(xué)就是通過(guò)假設(shè)檢驗(yàn)，來(lái)證偽或支持（注意不是證實(shí)）某個(gè)經(jīng)濟(jì)理論。相比之下，大數(shù)據(jù)分析更具實(shí)用主義色彩。預(yù)測(cè)在大數(shù)據(jù)分析中占有很大比重。對(duì)預(yù)測(cè)效果的后評(píng)估也是大數(shù)據(jù)分析的重要內(nèi)容。
    大數(shù)據(jù)分析與計(jì)量經(jīng)濟(jì)學(xué)的內(nèi)在聯(lián)系也不容忽視。在對(duì)隨機(jī)問(wèn)題的處理上，它們沒有本質(zhì)差別，基礎(chǔ)理論都是概率論和數(shù)理統(tǒng)計(jì)。
     對(duì)大數(shù)據(jù)分析的主流誤解
     第一，他們認(rèn)為，大數(shù)據(jù)分析不是針對(duì)隨機(jī)樣本，而是全體數(shù)據(jù)。盡管數(shù)據(jù)收集和分析手段足夠發(fā)達(dá)后，對(duì)全部數(shù)據(jù)的收集和分析成為可能，但從成本收益上衡量，這樣做不是總有必要。根據(jù)中心極限定理，統(tǒng)計(jì)分析質(zhì)量與樣本數(shù)量之間存在平方根關(guān)系。比如，樣本數(shù)量提高100倍，分析質(zhì)量提高10倍。而統(tǒng)計(jì)分析工作量與樣本數(shù)量之間存在線性關(guān)系。比如，樣本數(shù)量提高100倍，存儲(chǔ)和計(jì)算量一般增加100倍。這樣，樣本數(shù)量增長(zhǎng)到一定程度后，新增工作量對(duì)應(yīng)的成本就會(huì)超過(guò)質(zhì)量提高產(chǎn)生的好處。因此，通過(guò)科學(xué)設(shè)計(jì)的抽樣調(diào)查獲得有代表性的樣本，在大數(shù)據(jù)分析中仍有價(jià)值。
    第二，他們還認(rèn)為，大數(shù)據(jù)分析不是因果關(guān)系，而是相關(guān)關(guān)系。這個(gè)說(shuō)法在統(tǒng)計(jì)學(xué)中是老生常談，不是什么新觀點(diǎn)。統(tǒng)計(jì)學(xué)基于相關(guān)關(guān)系，只能被用來(lái)證偽因果關(guān)系，而不能被用來(lái)證實(shí)因果關(guān)系。大數(shù)據(jù)分析的基礎(chǔ)理論也是概率論和數(shù)理統(tǒng)計(jì)，從根本上就屬于相關(guān)關(guān)系的范疇。
    第三，大數(shù)據(jù)分析也不是萬(wàn)能的?；诖髷?shù)據(jù)的預(yù)測(cè)可以抽象表述為：用 表示已知信息，用 表示未知信息，尋找關(guān)于 的函數(shù) 作為 的預(yù)測(cè)。預(yù)測(cè)誤差是 ，用 （類似于均方誤差）來(lái)衡量預(yù)測(cè)效果。概率論有一個(gè)基本結(jié)論：
對(duì)任意 ，總有 ，其中等號(hào)僅當(dāng) 時(shí)才成立，所以 也被稱為最佳預(yù)測(cè)（best predictor）。
    可以看出兩點(diǎn)結(jié)論：首先，大數(shù)據(jù)分析中，各種算法的核心任務(wù)是使 盡可能接近理論上的最優(yōu)預(yù)測(cè) ；其次，即使在最優(yōu)預(yù)測(cè)上， 代表的預(yù)測(cè)誤差仍不能被消除，是內(nèi)生于信息結(jié)構(gòu)的。比如，即使信息技術(shù)非常發(fā)達(dá)，如果現(xiàn)實(shí)世界中仍有部分信息不能被數(shù)字化（從而不能用在大數(shù)據(jù)分析中），這部分被“塵封”的信息就決定了大數(shù)據(jù)分析的有效邊界。
    第四，大數(shù)據(jù)能降低信息不對(duì)稱的程度，但不能消除隨機(jī)性（不確定性）；有助于評(píng)估風(fēng)險(xiǎn)（未來(lái)遭受損失的可能性，其中損失分布可計(jì)量），但不能消除奈特式不確定性（其中損失分布不可計(jì)量）。文章來(lái)源：CDA數(shù)據(jù)分析師官網(wǎng)