
大數(shù)據(jù)時(shí)代對(duì)統(tǒng)計(jì)學(xué)和經(jīng)濟(jì)學(xué)的影響
大數(shù)據(jù)最顯著的特征就是 數(shù)據(jù)量大 ( large scope ) + 即時(shí)性 ( real time data )
比如: 你在超市收銀機(jī)的數(shù)據(jù), 網(wǎng)購的記錄, 或者在線閱讀( 比如在知乎的關(guān)注文章 ) 等等.
同時(shí)大數(shù)據(jù)時(shí)代帶來了很多新的數(shù)據(jù)類型 (新在于對(duì)比以往經(jīng)濟(jì)學(xué)上運(yùn)用的數(shù)據(jù))
比如: 社交網(wǎng)絡(luò)上發(fā)的微博或者朋友圈里所包含的文字?jǐn)?shù)據(jù) (這是以往經(jīng)濟(jì)分析中不太會(huì)使用的).
計(jì)量經(jīng)濟(jì)中的數(shù)據(jù)結(jié)構(gòu)經(jīng)常是矩陣型的, 也就是說通常收集 N 個(gè)觀察項(xiàng), K 個(gè)變量 (且 K <<N)
大數(shù)據(jù)的數(shù)據(jù)結(jié)構(gòu)顯然不是這樣, 很多情況下 K >N
計(jì)量中經(jīng)常假設(shè)觀察項(xiàng)之間是獨(dú)立的, 但是在社交網(wǎng)絡(luò)中觀察項(xiàng)之間卻是經(jīng)常互相聯(lián)結(jié), 計(jì)量經(jīng)濟(jì)學(xué)未來在使用社交網(wǎng)絡(luò)數(shù)據(jù)時(shí)如何處理這種觀察項(xiàng)間的影響將成為一個(gè)關(guān)鍵.
2. 目前時(shí)髦的大數(shù)據(jù)應(yīng)用: 預(yù)測(cè)建模 ( predictive modeling )
簡而言之, 預(yù)測(cè)建??梢岳斫鉃? 已知 N 個(gè)觀察 通過 K 個(gè)預(yù)測(cè)變量 來推導(dǎo)出相關(guān)性最強(qiáng)的 N 個(gè)結(jié)果.
大數(shù)據(jù)時(shí)代數(shù)據(jù)雖然豐富多了, 但是數(shù)據(jù)的質(zhì)量卻很容易下降.
比如: 縱使你有全國層次上百萬級(jí)的觀察項(xiàng), 而你所研究的課題卻是在市縣層次. 容易造成大量不相關(guān)且描述不夠詳盡的數(shù)據(jù).
而且這種統(tǒng)計(jì)方法面臨一個(gè)權(quán)衡取舍:
在 K >N 的時(shí)候, 模型的樣本外預(yù)測(cè)效果 ( out-of-sample performance ) 就會(huì)很差. 但是模型的樣本內(nèi)預(yù)測(cè)效果 (in-sample performance) 會(huì)很好.
而當(dāng)經(jīng)濟(jì)學(xué)家考慮運(yùn)用機(jī)器學(xué)習(xí)的方法時(shí), 很容易想到盧卡斯批評(píng)( Lucas Critique ): 如果一個(gè)預(yù)測(cè)模型通過收集市場(chǎng)上已知的經(jīng)濟(jì)行為, 從而用來預(yù)測(cè)最優(yōu)的政府干預(yù)政策時(shí), 預(yù)測(cè)的結(jié)果可能并不準(zhǔn)確, 因?yàn)轭A(yù)測(cè)出來的干預(yù)政策會(huì)改變市場(chǎng)的經(jīng)濟(jì)行為( 而這些正是和原模型中相關(guān)聯(lián)的 )
3. 大數(shù)據(jù)時(shí)代已經(jīng)為實(shí)證經(jīng)濟(jì)學(xué)研究提供了新的思路
美國統(tǒng)計(jì)局調(diào)查通貨膨脹是使用派發(fā)問卷的方式, 回收的數(shù)據(jù)再分類到不同的通貨膨脹指標(biāo)中 (eg CPI). 大數(shù)據(jù)領(lǐng)域的 Billion Price Project ( BPP ) 運(yùn)用實(shí)時(shí)的在線商店數(shù)據(jù)提供
一種 CPI 的替代指標(biāo) (這一指標(biāo)在美國被驗(yàn)證 BPP 與 CPI 有很強(qiáng)的相關(guān)性).
其他的還有穆迪分析通過 MasterCard 和 Visa 的 Spending Pulse 來提供行業(yè)就業(yè)率的觀測(cè)指標(biāo).
然而這些大數(shù)據(jù)還不夠完美, 很顯然這些數(shù)據(jù)的樣本本身就不具有代表性. 比如: 利用 MasterCard 和 Visa 推導(dǎo)出的就業(yè)率指數(shù)首先就要求被調(diào)查者要至少有一張 MasterCard 或者 Visa.
4. 對(duì)經(jīng)濟(jì)學(xué)家的挑戰(zhàn)
數(shù)據(jù)獲取: 公共領(lǐng)域以及政府?dāng)?shù)據(jù)是否容易獲得.
數(shù)據(jù)管理以及編輯能力: 經(jīng)濟(jì)學(xué)家是否有能力快速的把大數(shù)據(jù)高效地應(yīng)用在經(jīng)濟(jì)學(xué)思想.
最重要的, 急需開發(fā)出創(chuàng)新的數(shù)據(jù)總結(jié), 描述和分析的方法.
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
用 SQL 生成逆向回滾 SQL:數(shù)據(jù)操作的 “后悔藥” 指南? 在數(shù)據(jù)庫操作中,誤刪數(shù)據(jù)、錯(cuò)改字段或誤執(zhí)行批量更新等問題時(shí)有發(fā)生。 ...
2025-07-14如何考取數(shù)據(jù)分析師證書:以 CDA 為例? ? 在數(shù)字化浪潮席卷各行各業(yè)的當(dāng)下,數(shù)據(jù)分析師已然成為企業(yè)挖掘數(shù)據(jù)價(jià)值、驅(qū)動(dòng)決策的 ...
2025-07-14t檢驗(yàn)與Wilcoxon檢驗(yàn)的選擇:何時(shí)用t.test,何時(shí)用wilcox.test? t 檢驗(yàn)與 Wilcoxon 檢驗(yàn)的選擇:何時(shí)用 t.test,何時(shí)用 wilcox. ...
2025-07-14AI 浪潮下的生存與進(jìn)階: CDA數(shù)據(jù)分析師—開啟新時(shí)代職業(yè)生涯的鑰匙(深度研究報(bào)告、發(fā)展指導(dǎo)白皮書) 發(fā)布機(jī)構(gòu):CDA數(shù)據(jù)科 ...
2025-07-13LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07