
當(dāng)心大數(shù)據(jù)時(shí)代的浮夸陷阱_數(shù)據(jù)分析師
數(shù)據(jù)分析師在對(duì)阿里巴巴內(nèi)衣銷售數(shù)據(jù)進(jìn)行分析后發(fā)現(xiàn),購(gòu)買大號(hào)內(nèi)衣的女性往往更“敗家”。其根據(jù)是,65%B罩杯的女性屬于低消費(fèi)顧客,而C罩杯及以上的顧客大多屬于中等消費(fèi)或高消費(fèi)買家。這一結(jié)論是否成立姑且不論,但首先傳遞了一個(gè)信息,今天人們已經(jīng)進(jìn)入數(shù)據(jù)為王的時(shí)代,其中大數(shù)據(jù)似乎又是王中之王。
無(wú)論是商業(yè)網(wǎng)站還是搜索網(wǎng)站,人們的所搜所看所買都成為大數(shù)據(jù)的組成部分,無(wú)論之于商業(yè),還是之于公共衛(wèi)生,抑或國(guó)家安全,它們都是有用的信息。有心人已經(jīng)意識(shí)到,因?yàn)閾碛写罅课唇?jīng)充分研究的中產(chǎn)階層,中國(guó)成為世界上最重要的數(shù)據(jù)市場(chǎng)之一。研究這些數(shù)據(jù),對(duì)社會(huì)各方面都是多贏。當(dāng)然,保護(hù)人們個(gè)人隱私的代價(jià)需要考慮。
2008年谷歌推出“谷歌流感趨勢(shì)”(GFT)數(shù)據(jù)分析工具,谷歌的工程師根據(jù)這個(gè)工具的數(shù)據(jù)分析,預(yù)測(cè)了2009年H1N1流感將要暴發(fā),甚至具體到特定的地區(qū)和州。這一結(jié)論在流感暴發(fā)前發(fā)表在英國(guó)的《自然》雜志上。后來(lái),情況果真如此,這與美國(guó)疾病控制和預(yù)防中心(CDC)的預(yù)測(cè)完全一致,但時(shí)間上比CDC早了近兩周。從2010年起,阿里巴巴利用其數(shù)據(jù)建立的信用記錄,向小微企業(yè)提供融資,也取得了不錯(cuò)的效果。
這些結(jié)果表明,數(shù)據(jù)為王時(shí)代早就到來(lái)。其實(shí),這并不奇怪。人類文明的三大支柱是材料(物質(zhì))、能量和信息,數(shù)據(jù)又是信息中的核心部分。古希臘的畢達(dá)哥拉斯早就說(shuō)過(guò),“一切皆數(shù)”,盡管其所說(shuō)的“數(shù)”與今天的數(shù)據(jù)有所不同,但在某些方面是相似的。所以,在今天也就有了“一切皆信息”,也即數(shù)據(jù)為王。
不過(guò),數(shù)據(jù)為王并不意味著大數(shù)據(jù)為王,或數(shù)據(jù)越多越好,還要看如何分析和利用數(shù)據(jù),進(jìn)而得出最契合實(shí)際的結(jié)論,并且有效利用這一結(jié)論。因此,如果要承認(rèn)阿里巴巴基于內(nèi)衣銷售的數(shù)據(jù)分析得出的女性胸越大越“敗家”的結(jié)論,就需要有符合客觀實(shí)際的解釋,不幸的是,這一結(jié)論還處于見仁見智的階段。網(wǎng)友的各種分析就提供了佐證:一是“大胸都被有錢人娶了,所以才有能力敗”;二是“說(shuō)明青春期的營(yíng)養(yǎng)狀況確實(shí)會(huì)影響胸的大小”,“胸大的確實(shí)普遍嫁得好”;三是“胸大并不敗家,集中在網(wǎng)上打折的時(shí)候買東西,只會(huì)旺家?!?br />
這筆混亂賬目前肯定掰扯不清,但已有事實(shí)證明,數(shù)據(jù)越大并不意味著越好。就算是谷歌,一旦他們的大數(shù)據(jù)處理和分析不當(dāng),也會(huì)得出錯(cuò)誤的結(jié)論。2013年1月,美國(guó)又發(fā)生流感,但GFT的預(yù)測(cè)比實(shí)際數(shù)據(jù)高兩倍。這并非偶然出現(xiàn)錯(cuò)誤,而是在過(guò)去一再發(fā)生。2011年8月~2013年9月,GFT高估流感流行長(zhǎng)達(dá)108周。
谷歌的大數(shù)據(jù)為何預(yù)測(cè)不準(zhǔn)呢?發(fā)表在2014年3月14日《科學(xué)》雜志上的一篇文章指出了兩個(gè)主要原因。一是大數(shù)據(jù)浮夸,二是算法變化。大數(shù)據(jù)浮夸指的是,以為大數(shù)據(jù)可以完全取代傳統(tǒng)的數(shù)據(jù)收集方法,而非作為后者的補(bǔ)充。大數(shù)據(jù)浮夸的最大問(wèn)題在于,絕大多數(shù)大數(shù)據(jù)與經(jīng)過(guò)嚴(yán)謹(jǐn)科學(xué)試驗(yàn)得到的數(shù)據(jù)之間存在很大的差異。
另外,谷歌對(duì)算法會(huì)進(jìn)行不斷的調(diào)整和改進(jìn),搜索引擎算法的改變和用戶的搜索行為會(huì)影響到預(yù)測(cè)結(jié)果,比如媒體對(duì)于流感流行的報(bào)道會(huì)增加與流感相關(guān)的詞語(yǔ)的搜索次數(shù),進(jìn)而影響GFT的預(yù)測(cè);相關(guān)搜索算法也會(huì)對(duì)GFT造成影響。例如,搜索“發(fā)燒”,相關(guān)搜索中會(huì)給出關(guān)鍵詞“流感”,而搜索“咳嗽”則會(huì)給出“普通感冒”。
如果沒(méi)有嚴(yán)謹(jǐn)?shù)目茖W(xué)試驗(yàn)數(shù)據(jù)做后盾,現(xiàn)階段就不能得出女性胸越大越“敗家”的結(jié)論。同樣,也需要得到科學(xué)試驗(yàn)數(shù)據(jù)后,才能解釋為何在2012年的“雙十一”,中國(guó)比基尼銷量最高的地區(qū)是并不沿海的新疆。對(duì)大數(shù)據(jù)浮夸的兩種解決之道則是:大數(shù)據(jù)并不能代替嚴(yán)謹(jǐn)?shù)目茖W(xué)試驗(yàn)得到的數(shù)據(jù),這兩者之間需要互補(bǔ),而且要使算法更符合實(shí)際情況。
CDA數(shù)據(jù)分析師培訓(xùn)官網(wǎng)
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
2025被稱為“AI元年”,而AI,與數(shù)據(jù)密不可分。網(wǎng)易公司創(chuàng)始人丁磊在《AI思維:從數(shù)據(jù)中創(chuàng)造價(jià)值的煉金術(shù)》一書中指出:AI思維, ...
2025-07-17數(shù)據(jù)分析師的技能圖譜:從數(shù)據(jù)到價(jià)值的橋梁? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,數(shù)據(jù)分析師如同 “數(shù)據(jù)翻譯官”,將冰冷的數(shù)字轉(zhuǎn)化為清晰的 ...
2025-07-17Pandas 寫入指定行數(shù)據(jù):數(shù)據(jù)精細(xì)化管理的核心技能? 在數(shù)據(jù)處理的日常工作中,我們常常需要面對(duì)這樣的場(chǎng)景:在龐大的數(shù)據(jù)集里精 ...
2025-07-17解碼 CDA:數(shù)據(jù)時(shí)代的通行證? 在數(shù)字化浪潮席卷全球的今天,當(dāng)企業(yè)決策者盯著屏幕上跳動(dòng)的數(shù)據(jù)曲線尋找增長(zhǎng)密碼,當(dāng)科研人員在 ...
2025-07-17CDA 精益業(yè)務(wù)數(shù)據(jù)分析:數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)增長(zhǎng)的實(shí)戰(zhàn)方法論 在企業(yè)數(shù)字化轉(zhuǎn)型的浪潮中,“數(shù)據(jù)分析” 已從 “加分項(xiàng)” 成為 “必修課 ...
2025-07-16MySQL 中 ADD KEY 與 ADD INDEX 詳解:用法、差異與優(yōu)化實(shí)踐 在 MySQL 數(shù)據(jù)庫(kù)表結(jié)構(gòu)設(shè)計(jì)中,索引是提升查詢性能的核心手段。無(wú)論 ...
2025-07-16解析 MySQL Update 語(yǔ)句中 “query end” 狀態(tài):含義、成因與優(yōu)化指南? 在 MySQL 數(shù)據(jù)庫(kù)的日常運(yùn)維與開發(fā)中,開發(fā)者和 DBA 常會(huì) ...
2025-07-16如何考取數(shù)據(jù)分析師證書:以 CDA 為例? ? 在數(shù)字化浪潮席卷各行各業(yè)的當(dāng)下,數(shù)據(jù)分析師已然成為企業(yè)挖掘數(shù)據(jù)價(jià)值、驅(qū)動(dòng)決策的 ...
2025-07-15CDA 精益業(yè)務(wù)數(shù)據(jù)分析:驅(qū)動(dòng)企業(yè)高效決策的核心引擎? 在數(shù)字經(jīng)濟(jì)時(shí)代,企業(yè)面臨著前所未有的數(shù)據(jù)洪流,如何從海量數(shù)據(jù)中提取有 ...
2025-07-15MySQL 無(wú)外鍵關(guān)聯(lián)表的 JOIN 實(shí)戰(zhàn):數(shù)據(jù)整合的靈活之道? 在 MySQL 數(shù)據(jù)庫(kù)的日常操作中,我們經(jīng)常會(huì)遇到需要整合多張表數(shù)據(jù)的場(chǎng)景 ...
2025-07-15Python Pandas:數(shù)據(jù)科學(xué)的瑞士軍刀? ? 在數(shù)據(jù)驅(qū)動(dòng)的時(shí)代,面對(duì)海量、復(fù)雜的數(shù)據(jù),如何高效地進(jìn)行處理、分析和挖掘成為關(guān)鍵。 ...
2025-07-15用 SQL 生成逆向回滾 SQL:數(shù)據(jù)操作的 “后悔藥” 指南? 在數(shù)據(jù)庫(kù)操作中,誤刪數(shù)據(jù)、錯(cuò)改字段或誤執(zhí)行批量更新等問(wèn)題時(shí)有發(fā)生。 ...
2025-07-14t檢驗(yàn)與Wilcoxon檢驗(yàn)的選擇:何時(shí)用t.test,何時(shí)用wilcox.test? t 檢驗(yàn)與 Wilcoxon 檢驗(yàn)的選擇:何時(shí)用 t.test,何時(shí)用 wilcox. ...
2025-07-14AI 浪潮下的生存與進(jìn)階: CDA數(shù)據(jù)分析師—開啟新時(shí)代職業(yè)生涯的鑰匙(深度研究報(bào)告、發(fā)展指導(dǎo)白皮書) 發(fā)布機(jī)構(gòu):CDA數(shù)據(jù)科 ...
2025-07-13LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10