
管理者常犯的4個(gè)關(guān)于數(shù)據(jù)分析的錯(cuò)誤
有關(guān)數(shù)據(jù)和數(shù)據(jù)分析的高談闊論比比皆是。不斷有人告誡各大公司要規(guī)劃恰當(dāng)戰(zhàn)略來(lái)收集分析大數(shù)據(jù),并警告不這么做可能帶來(lái)的不良后果。像《華爾街日?qǐng)?bào)》近日就提到公司享有客戶數(shù)據(jù)這樣一個(gè)大寶藏,卻大都不知道該如何利用。本文將探討其中緣由。有公司嘗試從巨大的數(shù)據(jù)中獲取實(shí)際可用的信息,通過(guò)與他們合作,我們歸納了管理者在數(shù)據(jù)應(yīng)用上的四個(gè)常規(guī)錯(cuò)誤。
錯(cuò)誤一:沒(méi)有理解融合的概念
阻礙大數(shù)據(jù)發(fā)揮價(jià)值的第一大挑戰(zhàn)就是兼容性和融合性。大數(shù)據(jù)的一個(gè)主要特點(diǎn)是其來(lái)源多樣。然而,如果數(shù)據(jù)形式不相同,或難以整合,則其來(lái)源的多樣性將使公司難以削減開(kāi)支,也無(wú)法為客戶創(chuàng)造價(jià)值。例如,在我們和一個(gè)合作項(xiàng)目中,該公司擁有豐富的數(shù)據(jù),記錄客戶的交易量和忠誠(chéng)度,以及專門的在線瀏覽行為數(shù)據(jù),但是鮮少交叉檢索這兩類數(shù)據(jù)來(lái)判斷某種瀏覽行為即為交易達(dá)成的前兆。面對(duì)這種挑戰(zhàn),公司創(chuàng)建了“數(shù)據(jù)湖”來(lái)容納大量非結(jié)構(gòu)性數(shù)據(jù)。但是,這些公司能夠加以利用的數(shù)據(jù)目前都顯得雜亂無(wú)章,只不過(guò)是一些以文本,也就是說(shuō),當(dāng)這些數(shù)據(jù)只是普通的二進(jìn)制數(shù)字時(shí),要將它們井然有序地存儲(chǔ)起來(lái)非常困難。要將來(lái)源不同的它們整合起來(lái)更是難上加難。
錯(cuò)誤二:沒(méi)有認(rèn)識(shí)到非結(jié)構(gòu)化數(shù)據(jù)的局限性
阻礙大數(shù)據(jù)發(fā)揮價(jià)值的第二大挑戰(zhàn)是其非結(jié)構(gòu)化的特性。對(duì)文本數(shù)據(jù)的挖掘已經(jīng)有了特別的進(jìn)展,其語(yǔ)境和技術(shù)所帶來(lái)的認(rèn)識(shí)與結(jié)構(gòu)化數(shù)據(jù)類似,只是其它形式的數(shù)據(jù)如視頻仍不易于分析。舉個(gè)例子,雖然擁有最先進(jìn)的人臉識(shí)別軟件,有關(guān)當(dāng)局仍然無(wú)法從大量視頻中識(shí)別出波士頓馬拉松爆炸案中的兩名嫌疑人,因?yàn)樵撥浖性谔幚韽牟煌嵌扰臄z的嫌疑人的照片。
雖然從非結(jié)構(gòu)性數(shù)據(jù)獲取信息面臨挑戰(zhàn),但是各公司在利用這些數(shù)據(jù)初步提升分析已有數(shù)據(jù)的速度和精確度上取得了顯著成績(jī)。比如,在石油和天然氣勘探中,人們就用大數(shù)據(jù)來(lái)優(yōu)化正在進(jìn)行的操作,以及針對(duì)地震鉆井的數(shù)據(jù)分析。盡管他們所使用的數(shù)據(jù)在速度、種類和體積上都有可能增加,最終這些數(shù)據(jù)還是用于同一個(gè)目的??傊?,一開(kāi)始就希望通過(guò)利用非結(jié)構(gòu)性數(shù)據(jù)形成新的研究假設(shè)是站不住腳的,除非各公司通過(guò)“實(shí)踐”有了這種專業(yè)能力,能利用非結(jié)構(gòu)性數(shù)據(jù)優(yōu)化某個(gè)問(wèn)題答案。
錯(cuò)誤三:以為關(guān)聯(lián)分析意義重大
第三大挑戰(zhàn)——我們認(rèn)為是阻礙大數(shù)據(jù)價(jià)值的最重要的影響因素——是觀測(cè)數(shù)據(jù)的大量重疊使其因果關(guān)系難以明確。大規(guī)模數(shù)據(jù)集往往包含眾多相似或完全一致的信息,直接導(dǎo)致錯(cuò)誤的關(guān)聯(lián)分析,誤導(dǎo)管理者的決策。近日《經(jīng)濟(jì)學(xué)人》指出“在大數(shù)據(jù)時(shí)代,相互關(guān)系往往是自己浮現(xiàn)出來(lái)的”,《斯隆管理評(píng)論》在博客中強(qiáng)調(diào)雖然很多公司都能接觸到大數(shù)據(jù),但是這些數(shù)據(jù)并不“客觀”,因?yàn)閱?wèn)題在于要從中提煉出值得采取行動(dòng)的信息。同樣,典型的用于分析數(shù)據(jù)的機(jī)器學(xué)習(xí)算法所進(jìn)行的關(guān)聯(lián)分析并不一定會(huì)提供原因分析,因而不會(huì)給出可執(zhí)行的管理意見(jiàn)。也就是說(shuō),讓大數(shù)據(jù)有利可圖的技巧在于能夠從僅僅觀測(cè)到相互關(guān)系轉(zhuǎn)變?yōu)檎_鑒別何種關(guān)聯(lián)為因果形式,可以作為戰(zhàn)略舉措的基礎(chǔ)。要做到這一點(diǎn)就必須超越大數(shù)據(jù)。
谷歌趨勢(shì)是大數(shù)據(jù)的經(jīng)典范例,它利用谷歌搜索詞條整合記錄。然而,它也說(shuō)明了僅僅用于關(guān)聯(lián)分析的數(shù)據(jù)是毫無(wú)意義的。起初,研究人員稱數(shù)據(jù)可以用于反映流感的傳播。然而后來(lái),研究人員發(fā)現(xiàn)因?yàn)閿?shù)據(jù)體現(xiàn)的是過(guò)去,使用這些數(shù)據(jù)只能在現(xiàn)狀與過(guò)去模式相關(guān)的情況下,稍微改善應(yīng)對(duì)行為。
舉個(gè)更具體的例子,假設(shè)一個(gè)鞋業(yè)銷售商向曾瀏覽其網(wǎng)站的消費(fèi)者投放廣告。原始數(shù)據(jù)分析認(rèn)為消費(fèi)者看到這些廣告會(huì)更愿意購(gòu)買鞋子。可是,這些消費(fèi)者在看到廣告之前就已經(jīng)對(duì)該銷售商表現(xiàn)出了興趣,因而比普通人更愿意進(jìn)行交易。這個(gè)廣告有效嗎?很難說(shuō)。實(shí)際上,這里的大數(shù)據(jù)并沒(méi)有考慮營(yíng)銷傳播有效性的因果推論。要知道該廣告是否有效,銷售商需要進(jìn)行隨機(jī)檢測(cè)或試驗(yàn),選取一部分消費(fèi)者不接觸這個(gè)廣告。通過(guò)比較看了廣告和沒(méi)看廣告的消費(fèi)者之間的購(gòu)買率,公司才能確定是否看到廣告能讓消費(fèi)者更愿意消費(fèi)。這個(gè)案例中,價(jià)值主要不是通過(guò)數(shù)據(jù)創(chuàng)造的,而是通過(guò)設(shè)計(jì)、執(zhí)行以及闡釋重要的試驗(yàn)來(lái)創(chuàng)造的。
這是個(gè)試驗(yàn),不是分析觀測(cè)到的大數(shù)據(jù)集來(lái)幫助公司了解一段聯(lián)系到底是僅僅相關(guān)還是因?yàn)榉磻?yīng)潛在的因果關(guān)系而變得可以賴以作出判斷。雖然對(duì)于管理者來(lái)說(shuō),哪怕僅利用記錄消費(fèi)者行為一拍字節(jié)的數(shù)據(jù)來(lái)提升效益都很困難,但是比較參與了營(yíng)銷活動(dòng)的客戶和沒(méi)有參與的客戶——根據(jù)試驗(yàn)結(jié)果——能夠讓營(yíng)銷人員推論這個(gè)活動(dòng)是否有利可圖。
開(kāi)展實(shí)地試驗(yàn),得出正確的結(jié)論,采取恰當(dāng)?shù)膽?yīng)對(duì)措施,都不是輕而易舉的事。但是成功的公司已經(jīng)有能力來(lái)設(shè)計(jì)、開(kāi)展重要的實(shí)地試驗(yàn),并對(duì)其結(jié)果評(píng)估,采取針對(duì)性措施。正是這種“試驗(yàn)加學(xué)習(xí)”的環(huán)境,以及對(duì)其能否加以推廣的理解和認(rèn)識(shí)之上采取行動(dòng)的能力,才讓大數(shù)據(jù)有價(jià)值。
只是,由于越來(lái)越多的數(shù)據(jù)樣本收益遞減,這樣的試驗(yàn)并不一定需要大數(shù)據(jù)。比如:谷歌透露說(shuō)其往往用有效數(shù)據(jù)的0.1%中的隨機(jī)樣本來(lái)進(jìn)行數(shù)據(jù)分析。確實(shí),近日刊登的一篇文章顯示大數(shù)據(jù)的大實(shí)際上是不利的,因?yàn)椤皵?shù)據(jù)庫(kù)越大,就越容易支持你提出的假設(shè)?!睋Q句話說(shuō),因?yàn)榇髷?shù)據(jù)提供重疊的信息,公司能從整個(gè)數(shù)據(jù)集,也能從其千分之一的數(shù)據(jù)集中獲取同樣的信息。
錯(cuò)誤四:低估了勞動(dòng)力技術(shù)需求
開(kāi)展試驗(yàn)不是公司從大數(shù)據(jù)推測(cè)有價(jià)值信息的唯一途徑。另一個(gè)可行的方法是公司可以培養(yǎng)算法技能,來(lái)更好的處理數(shù)據(jù)。推薦系統(tǒng)便是此類算法的一個(gè)范例。推薦系統(tǒng)通過(guò)針對(duì)關(guān)聯(lián)數(shù)據(jù)的算法向客戶推薦最相關(guān)的產(chǎn)品。只是,它不是依靠背后規(guī)模龐大的數(shù)據(jù),而是依賴識(shí)別關(guān)鍵信息碎片來(lái)預(yù)測(cè)客戶偏好的能力。的確,往往不是數(shù)據(jù)的規(guī)模,而是計(jì)算機(jī)學(xué)習(xí)的算法來(lái)確定結(jié)果的質(zhì)量。盡管預(yù)測(cè)能力可能增加可用數(shù)據(jù)的規(guī)模,但是在大多數(shù)情況中,預(yù)測(cè)的提升說(shuō)明規(guī)模收益隨著數(shù)據(jù)集增加而遞減不過(guò),要建立好的算法就需要好的數(shù)據(jù)分析師。一些公司以為不同聘請(qǐng)員工來(lái)分析數(shù)據(jù)中的因果聯(lián)系就能將大量的數(shù)據(jù)轉(zhuǎn)化為信息,他們可能要失望了。
數(shù)據(jù)本身是沒(méi)有價(jià)值的。只有與管理、構(gòu)建和分析技能結(jié)合來(lái),明確對(duì)其進(jìn)行試驗(yàn)和算法,才能對(duì)公司有用。當(dāng)你把價(jià)格信息看做是對(duì)價(jià)格信息處理的技能時(shí)就清楚了。很多情況下,相對(duì)于數(shù)據(jù)成本,留住數(shù)據(jù)處理人才成本更高。這說(shuō)明對(duì)于一個(gè)公司而言,數(shù)據(jù)處理能力比數(shù)據(jù)本身更重要。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過(guò)程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對(duì)數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語(yǔ)言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11