
大數(shù)據最重要的不是數(shù)據本身,而是數(shù)據分析
大數(shù)據的價值不是在數(shù)據本身,雖然我們需要數(shù)據,數(shù)據很多時候只是伴隨科技進步而產生的免費的副產品。大數(shù)據時代,我們可以通過去量化過去不能量化的信息,使用精妙的統(tǒng)計學方法分析這些信息成為可能。
“滿城盡談
”,但很多人其實并不理解大數(shù)據真正價值是什么,哈佛大學GaryKing教授用3個大數(shù)據研究案例告訴你:有數(shù)據固然好,但是如果沒有分析,數(shù)據的價值就沒法體現(xiàn)。
以下是Gary King教授演講實錄(有刪節(jié)):
工作的領域叫做量化社會科學(QuantitativeSocialScience),有時,它有一個別稱,叫大數(shù)據。“大數(shù)據”這個詞最早是媒體發(fā)現(xiàn)的,它試圖向大眾解釋我們是做什么的,目前看來解釋的效果還不錯。
然而,大數(shù)據的價值不是在數(shù)據本身,雖然我們需要數(shù)據,數(shù)據很多時候只是伴隨科技進步而產生的免費的副產品。比如說,學校為了讓學生能更高效地注冊而引進了注冊系統(tǒng),因而有了學生的很多信息,這些都是因為技術改進而產生的數(shù)據增量。
大數(shù)據的真正價值在于
。數(shù)據是為了某種目的存在,目的可以變,我們可以通過數(shù)據來了解完全不同的東西……有數(shù)據固然好,但是如果沒有分析,數(shù)據的價值就沒法體現(xiàn)。
先來看一個大數(shù)據在公共政策層面運用的案例。
我們曾經做過一個評估研究,發(fā)現(xiàn)2000年以后美國社會保障管理總署(U.S.Social Security Administration,簡稱“SSA”)對于美國社保賬戶及人口壽命的預測有系統(tǒng)性偏差。
(圖片說明:2000年以后SSA對社保基金賬戶情況的預測出現(xiàn)顯著偏差;來源:GaryKing論文)
大背景是,美國的社會保障平臺是美國最大的單一政府平臺,它的資金是跨代流動的——當前退休者的養(yǎng)老金供給來自于他們的下一代,即現(xiàn)在工作的人交的稅金。
所以SSA需要預測這個信托基金項目里的資金流,以及人的壽命,正確預測這兩點很重要,如果人們比SSA預期的更長壽——雖然這是好事——就很可能導致信托基金里就沒有足夠的錢給他們養(yǎng)老了。
我們研究發(fā)現(xiàn),SSA的預測在2000年以后出現(xiàn)了系統(tǒng)性偏差——發(fā)生偏差的原因之一,是SSA使用的模型本質上定性分析的模型,且多年來幾乎沒有調整。由于一些藥物的使用和癌癥早期發(fā)現(xiàn),美國人開始比模型預測地更長壽了。
我們通過分析得出的結論是,美國社保信托基金至少存在8千億美元的缺口。
雖然結論有點不幸,但是政府需要提前知道。這樣政府就可以有空間在稅率,退休年齡等方面進行調整。這是公共政策層面的話題。
關于定性分析和定量分析,其實不是涇渭分明的。做分析全靠定性分析(由人主導)是不夠的,因為你有很多數(shù)據不知道該怎么處理。全靠定量分析(由機器主導)也不行,這就像一張巨大的excel表,但是表中沒有行、列的標簽。所以,大數(shù)據分析需要的是由人主導,由計算機輔助的技術(weneedcomputer-assisted,human-ledtechnology)。
我們還做過一個計算機輔助閱讀的實驗。我們開發(fā)了一套計算機輔助、自動化閱讀的技術,這項技術能幫助人們從非結構化的文字中提取、組織并且處理大量信息。
我們曾用該技術處理了64000篇國會議員官方發(fā)布的新聞稿,想通過這項基礎幫我們作分類,看國會議員在新聞稿中都說了些什么。
結果我們發(fā)現(xiàn),居然有高達27%的議員發(fā)布的新聞稿內容只是單純地想抨擊對方(PartisanTaunting),而不是想要平衡預算或停止戰(zhàn)爭,或解決問題。
(圖片說明:GaryKing表示,抨擊對方政黨從個人角度來看是理性的,但是從整個集群的角度來看,是非理性的,如果抨擊對方的言語增多,政黨之間的合作關系和能效會減弱;來源:GaryKing研究成果單頁)
大數(shù)據時代,我們可以通過去量化過去不能量化的信息,使用精妙的統(tǒng)計學方法分析這些信息成為可能。
現(xiàn)在,我們都可以對一些強定性屬性(inherentlyqualitative)的東西作定量分析了,如音頻和視頻。但是,目前仍有一些定性分析工作者要分析的內容還未被量化。所以,定性分析、定量分析要配合操作才行。
數(shù)據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經網絡(RNN)家族中,長短期記憶網絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據分析師報考條件詳解與準備指南? ? 在數(shù)據驅動決策的時代浪潮下,CDA 數(shù)據分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據透視表中兩列相乘合計的實用指南? 在數(shù)據分析的日常工作中,數(shù)據透視表憑借其強大的數(shù)據匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據分析師:連接數(shù)據與業(yè)務的價值轉化者? ? 在大數(shù)據與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據查詢到趨勢預判? ? 在數(shù)據驅動決策的時代,預測分析作為挖掘數(shù)據潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據查詢結束后:分析師的收尾工作與價值深化? ? 在數(shù)據分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據分析師考試:從報考到取證的全攻略? 在數(shù)字經濟蓬勃發(fā)展的今天,數(shù)據分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據背后的時間軌跡? 在數(shù)據分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據類型:時間維度的精準切片? ? 在數(shù)據的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據分析師認證考試中,Python 作為數(shù)據處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據趨勢與突變分析的有力工具? ? ? 在數(shù)據分析的廣袤領域中,準確捕捉數(shù)據的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據分析師認證作為國內權威的數(shù)據分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網絡(LSTM)作為循環(huán)神經網絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調研數(shù)據中的深度應用? 市場調研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調研數(shù) ...
2025-07-07CDA數(shù)據分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據已成為企業(yè)決策、行業(yè)發(fā)展的核心驅動力,數(shù)據分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據分析師考試作為衡量數(shù)據專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數(shù)據處理的關鍵技能? 在數(shù)據處理與分析工作中,數(shù)據格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據分析師視角:從數(shù)據迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據已成為企業(yè)決策的核心驅動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據分析師:開啟數(shù)據職業(yè)發(fā)展新征程? ? 在數(shù)據成為核心生產要素的今天,數(shù)據分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03