
大數(shù)據(jù)改變經(jīng)濟(jì)預(yù)測范式:經(jīng)濟(jì)預(yù)測中大數(shù)據(jù)應(yīng)用的挑戰(zhàn)
經(jīng)濟(jì)預(yù)測是經(jīng)濟(jì)學(xué)最重要的職能之一,也是政府、企業(yè)、個(gè)人等進(jìn)行決策的參考和依據(jù)?;谟?jì)量經(jīng)濟(jì)方法實(shí)施的經(jīng)濟(jì)預(yù)測,特別是宏觀經(jīng)濟(jì)預(yù)測,離不開經(jīng)濟(jì)統(tǒng)計(jì)的支撐。經(jīng)濟(jì)統(tǒng)計(jì)是經(jīng)濟(jì)預(yù)測得以實(shí)施的前提,為經(jīng)濟(jì)預(yù)測提供了最基礎(chǔ)的數(shù)據(jù)指標(biāo)。
大數(shù)據(jù)對經(jīng)濟(jì)預(yù)測的影響涉及數(shù)據(jù)來源、預(yù)測方法、預(yù)測結(jié)果等幾乎每一個(gè)環(huán)節(jié),在某種程度上改變了常規(guī)經(jīng)濟(jì)預(yù)測所遵循的基本范式。首先,經(jīng)濟(jì)預(yù)測的數(shù)據(jù)基礎(chǔ)發(fā)生很大變化。經(jīng)濟(jì)統(tǒng)計(jì)不再是數(shù)據(jù)指標(biāo)的唯一來源,基于互聯(lián)網(wǎng)技術(shù)產(chǎn)生的搜索數(shù)據(jù)、社交媒體數(shù)據(jù)、在線新聞、交易支付數(shù)據(jù)以及快遞服務(wù)數(shù)據(jù)等都可以用于經(jīng)濟(jì)預(yù)測。其次,數(shù)據(jù)指標(biāo)的生成也不再完全依賴傳統(tǒng)的抽樣調(diào)查、經(jīng)濟(jì)普查?;谒阉鲾?shù)據(jù)、社交媒體數(shù)據(jù)等網(wǎng)絡(luò)數(shù)據(jù)資源可以實(shí)時(shí)生成不同的數(shù)據(jù)指標(biāo)。再次,對經(jīng)濟(jì)預(yù)測所采用的方法、工具有了新的要求,通常是將傳統(tǒng)的計(jì)量經(jīng)濟(jì)方法與機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)習(xí)等分析手段相互結(jié)合,以適應(yīng)大數(shù)據(jù)處理的需要。最后,大數(shù)據(jù)有助于經(jīng)濟(jì)預(yù)測結(jié)果的改善。一方面,在既有的計(jì)量經(jīng)濟(jì)預(yù)測模型中引入大數(shù)據(jù)及相應(yīng)的處理方法,能夠較為顯著地減少誤差、提高預(yù)測精度。另一方面,預(yù)測的時(shí)效性進(jìn)一步增強(qiáng)。在網(wǎng)絡(luò)在線數(shù)據(jù)的支撐下,數(shù)據(jù)指標(biāo)的滯后問題得以解決,近乎實(shí)時(shí)的即時(shí)預(yù)測已經(jīng)出現(xiàn)。
搜索數(shù)據(jù)的應(yīng)用提高預(yù)測精度
談及搜索數(shù)據(jù)在經(jīng)濟(jì)預(yù)測中的應(yīng)用,必然離不開對谷歌趨勢(Google Trends)數(shù)據(jù)的介紹。谷歌趨勢數(shù)據(jù)是針對某個(gè)地區(qū)不同時(shí)間特定關(guān)鍵詞查詢數(shù)量生成的查詢指數(shù),其構(gòu)造過程大致如下:(1)計(jì)算查詢份額(Query Share),即某個(gè)地區(qū)某個(gè)時(shí)間段包含某個(gè)關(guān)鍵詞的查詢數(shù)量占所有查詢的比重;(2)生成查詢指數(shù)(Query Index),將一段時(shí)間內(nèi)查詢份額的最高值標(biāo)準(zhǔn)化為100,并將初始時(shí)點(diǎn)的查詢份額標(biāo)準(zhǔn)化為0。谷歌將搜索查詢分成30個(gè)一級(jí)大類,并進(jìn)一步細(xì)分為250個(gè)二級(jí)類別,這樣便可很容易獲得數(shù)百個(gè)谷歌趨勢查詢指數(shù),查詢指數(shù)數(shù)據(jù)最早可追溯到2004年1月1日。
谷歌趨勢數(shù)據(jù)最早是由著名經(jīng)濟(jì)學(xué)家哈爾·瓦里安(Hal Varian)引入到經(jīng)濟(jì)預(yù)測中的。自2008年以來,瓦里安教授與其合作者發(fā)布了一系列利用谷歌趨勢數(shù)據(jù)進(jìn)行經(jīng)濟(jì)預(yù)測的研究成果,預(yù)測內(nèi)容涉及汽車及零部件銷售額、失業(yè)救濟(jì)申領(lǐng)人數(shù)、旅行目的地、消費(fèi)者信心等。其基本思路是,在傳統(tǒng)的時(shí)間序列預(yù)測模型基礎(chǔ)上,加入谷歌趨勢生成的查詢指數(shù),以提高預(yù)測精度。瓦里安教授的預(yù)測實(shí)踐表明,借助谷歌趨勢,能夠有助于即時(shí)預(yù)測精度的提高。相關(guān)事例還表明,在出現(xiàn)拐點(diǎn)時(shí)期,加入谷歌趨勢指數(shù)作為變量,也能取得較好的預(yù)測效果。這恰恰是以計(jì)量經(jīng)濟(jì)模型為基礎(chǔ)的常規(guī)經(jīng)濟(jì)預(yù)測一直未解決的難題。
近兩年來,越來越多的歐美機(jī)構(gòu)及學(xué)者將谷歌趨勢數(shù)據(jù)運(yùn)用于不同類型經(jīng)濟(jì)活動(dòng)的預(yù)測中。例如,德國勞工研究所的學(xué)者利用谷歌趨勢數(shù)據(jù)對住房貸款違約比例進(jìn)行即時(shí)預(yù)測,發(fā)現(xiàn)效果明顯優(yōu)于基礎(chǔ)的自回歸模型。愛爾蘭中央銀行的學(xué)者利用谷歌趨勢的相關(guān)概率指標(biāo),對其宏觀經(jīng)濟(jì)預(yù)測模型進(jìn)行隨時(shí)調(diào)整,成功提高了即時(shí)預(yù)測精度。
除了谷歌趨勢數(shù)據(jù)外,其他搜索引擎如必應(yīng)、百度等,其搜索數(shù)據(jù)也被用于經(jīng)濟(jì)預(yù)測。百度公司推出了與谷歌趨勢類似的“百度指數(shù)”,相關(guān)數(shù)據(jù)指標(biāo)也被用于經(jīng)濟(jì)預(yù)測。2014年,中國科學(xué)院大學(xué)的幾位學(xué)者將“百度關(guān)鍵字指數(shù)”納入到他們開發(fā)的“中國股票市場預(yù)測模型”中,將預(yù)測平均誤差值從之前的3.8%降低到1.4%。
媒體數(shù)據(jù)的應(yīng)用增強(qiáng)預(yù)測時(shí)效性
大數(shù)據(jù)處理和分析技術(shù)的快速發(fā)展,使得來自社交網(wǎng)站、在線新聞等渠道的文本數(shù)據(jù)也能夠被有效整理和量化,并用于經(jīng)濟(jì)預(yù)測。
荷蘭統(tǒng)計(jì)局(Statistics Netherlands)的學(xué)者嘗試?yán)蒙缃幻襟w數(shù)據(jù)對消費(fèi)者信心指數(shù)進(jìn)行預(yù)測。其大致思路是:(1)收集所有推特(Twitter)、臉書(Facebook)、領(lǐng)英(LinkedIn)等社交媒體數(shù)據(jù),分別構(gòu)造“基于社交媒體數(shù)據(jù)的消費(fèi)者信心指數(shù)”;(2)分析官方統(tǒng)計(jì)調(diào)查得到的“消費(fèi)者信心指數(shù)”與社交媒體消費(fèi)者信心指數(shù)之間的相關(guān)性;(3)基于兩者之間的相關(guān)關(guān)系,以社交媒體“消費(fèi)者信心指數(shù)”對官方統(tǒng)計(jì)“消費(fèi)者信心指數(shù)”進(jìn)行預(yù)測。根據(jù)分析,以臉書數(shù)據(jù)構(gòu)造的指數(shù)與官方指數(shù)之間不僅高度相關(guān)且存在協(xié)整關(guān)系。以推特?cái)?shù)據(jù)構(gòu)造的指數(shù)與官方指數(shù)同樣存在相關(guān)關(guān)系。與官方指數(shù)相比,社交媒體指數(shù)最大的優(yōu)勢在于及時(shí)性,能夠以兩周一次甚至一周一次的頻率構(gòu)造并發(fā)布。
比利時(shí)安特衛(wèi)普大學(xué)的學(xué)者通過文本挖掘(Text mining)技術(shù)對與宏觀經(jīng)濟(jì)復(fù)蘇相關(guān)的“經(jīng)濟(jì)政策不確定性指數(shù)”(Economic Policy Uncertainty Index,EPU)進(jìn)行改造。文本挖掘的對象是六種來源的佛蘭芒語新聞報(bào)道。改造后的EPU可用于分析和預(yù)測宏觀經(jīng)濟(jì)復(fù)蘇情況。
除了宏觀經(jīng)濟(jì)關(guān)聯(lián)指數(shù)的構(gòu)造和分析外,媒體文本數(shù)據(jù)還被廣泛應(yīng)用于對金融市場的相關(guān)變化進(jìn)行預(yù)測。倫敦大學(xué)學(xué)院的學(xué)者對路透新聞檔案、經(jīng)紀(jì)人報(bào)告、英格蘭銀行內(nèi)部市場評論等文本進(jìn)行挖掘,聚焦于那些有可能推動(dòng)金融市場行為變化的敘述和情緒。該學(xué)者發(fā)現(xiàn),當(dāng)興奮情緒很高而焦慮情緒很少時(shí),往往是金融危機(jī)發(fā)生的警示信號(hào)。法蘭克福大學(xué)的學(xué)者以臉書國民幸福指數(shù)(Facebook’s Gross National Happiness,GNH)為基礎(chǔ)構(gòu)造“投資信心指數(shù)”(Index of Investment Sentiment)。而GNH本身又是通過對臉書中的情感語匯進(jìn)行文本分析而構(gòu)造出來的。研究發(fā)現(xiàn),利用GNH能預(yù)測美國股票市場每天回報(bào)和交易量的變化情況;一個(gè)標(biāo)準(zhǔn)差的GNH指數(shù)增加大致能夠帶來次日股票指數(shù)11.23個(gè)點(diǎn)的上漲。
其他可挖掘在線數(shù)據(jù)十分豐富
除了搜索數(shù)據(jù)、網(wǎng)絡(luò)媒體數(shù)據(jù)外,在線銷售及支付數(shù)據(jù)、衛(wèi)星遙感數(shù)據(jù)、郵政快遞數(shù)據(jù)等也被應(yīng)用于經(jīng)濟(jì)預(yù)測中。
美國麻省理工學(xué)院的學(xué)者領(lǐng)導(dǎo)了一個(gè)名為“十億價(jià)格”(Billion Prices Project,BPP)的研究項(xiàng)目。該項(xiàng)目與網(wǎng)絡(luò)零售商合作,每天下載成千上萬種在線零售商品的實(shí)時(shí)價(jià)格,生成每天的價(jià)格指數(shù),可以實(shí)現(xiàn)以每天一次的頻率發(fā)布價(jià)格變動(dòng)和通貨膨脹數(shù)據(jù)。利用BPP在線價(jià)格指數(shù),可以較為準(zhǔn)確地判斷出未來一定時(shí)期特別是2—3個(gè)月時(shí)間內(nèi)的通貨膨脹變化趨勢。最值得一提的是,BPP在線價(jià)格指數(shù)在預(yù)測通脹趨勢變化拐點(diǎn)方面特別有效。
加拿大麥吉爾大學(xué)的學(xué)者利用包括銀行卡在內(nèi)的電子支付大數(shù)據(jù),通過多個(gè)模型的不同組合對加拿大GDP進(jìn)行即時(shí)預(yù)測;并以此項(xiàng)工作為基礎(chǔ)構(gòu)建了一個(gè)全新的GDP月度數(shù)據(jù)庫,預(yù)測精度顯著提高。
萬國郵政聯(lián)盟(Universal Postal Union,UPU)的學(xué)者將國際郵政物流體系每天所產(chǎn)生的商品交換數(shù)據(jù),與每日的國際匯率變動(dòng)數(shù)據(jù)相結(jié)合,對國際間的電子商務(wù)套利行為進(jìn)行預(yù)測分析。這一嘗試表明,利用國際郵政物流數(shù)據(jù)有助于提高預(yù)測能力。
在澳大利亞,其官方統(tǒng)計(jì)部門正在采取相關(guān)措施,以便將特定來源的大數(shù)據(jù)納入到常規(guī)官方統(tǒng)計(jì)體系中。在統(tǒng)計(jì)實(shí)踐中,澳大利亞統(tǒng)計(jì)局已經(jīng)著手構(gòu)建基于大數(shù)據(jù)的統(tǒng)計(jì)推斷框架。一個(gè)典型的例子就是,利用遙感數(shù)據(jù)對澳大利亞的農(nóng)業(yè)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和預(yù)測。
經(jīng)濟(jì)預(yù)測中大數(shù)據(jù)應(yīng)用的挑戰(zhàn)
近年來各國機(jī)構(gòu)和學(xué)者的探索表明,利用各種不同來源的大數(shù)據(jù)能夠有效提高經(jīng)濟(jì)預(yù)測的精度,在某些領(lǐng)域甚至能夠進(jìn)行拐點(diǎn)預(yù)測。不過,在經(jīng)濟(jì)預(yù)測實(shí)踐中如何更加有效地利用大數(shù)據(jù)仍然面臨諸多挑戰(zhàn)。
第一,大數(shù)據(jù)的可獲得性將直接限制大數(shù)據(jù)在經(jīng)濟(jì)預(yù)測中的推廣應(yīng)用。無論是政府部門數(shù)據(jù)還是私人公司數(shù)據(jù),都不可能為經(jīng)濟(jì)預(yù)測者隨意使用;對于私人公司數(shù)據(jù)來說,通常需要通過簽訂合作協(xié)議并嚴(yán)格執(zhí)行保密條款才能獲取數(shù)據(jù);至于政府部門公共數(shù)據(jù),大多存在開放限制,往往需要通過機(jī)構(gòu)內(nèi)部人員才能獲取數(shù)據(jù)。
第二,來自搜索查詢、社交媒體等不同渠道的非結(jié)構(gòu)化原始數(shù)據(jù)既雜亂無章,又存在非常復(fù)雜的內(nèi)在關(guān)聯(lián),將其提煉并轉(zhuǎn)換為結(jié)構(gòu)化的有用信息需要有足夠的技巧,并且耗費(fèi)大量人力、物力和財(cái)力。
第三,充裕的數(shù)據(jù)信息還會(huì)帶來過度識(shí)別問題。以谷歌趨勢數(shù)據(jù)為例,谷歌每天產(chǎn)生的數(shù)十億個(gè)查詢記錄,即便利用谷歌趨勢進(jìn)行分類仍有數(shù)百個(gè)指數(shù);而每個(gè)指數(shù)即便從2004年1月開始,至今也最多不過一百多個(gè)序列。變量個(gè)數(shù)大于序列長度,必然導(dǎo)致過度識(shí)別問題。
第四,同任何傳統(tǒng)經(jīng)濟(jì)預(yù)測一樣,大數(shù)據(jù)的應(yīng)用也無法解決“盧卡斯批評”問題。雖然大數(shù)據(jù)提高了預(yù)測精度,但如果預(yù)測模型被用于決定采用何種干預(yù)政策,那么最終的實(shí)際結(jié)果可能不會(huì)如模型所預(yù)測,因?yàn)檎叩淖兓瘯?huì)影響到后續(xù)行為,而變量之間的關(guān)系恰恰是由相應(yīng)數(shù)據(jù)所反映。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03