
大數(shù)據(jù)和統(tǒng)計(jì)學(xué)并不矛盾_數(shù)據(jù)分析師
通常,對(duì)于新的IT關(guān)鍵詞必定會(huì)出現(xiàn)反對(duì)派。最近,大數(shù)據(jù)就成為被攻擊的對(duì)象,諸如大數(shù)據(jù)失敗論等論調(diào)也明顯增加。
業(yè)界對(duì)大數(shù)據(jù)抱著極大的期待,這一點(diǎn)從大量的大數(shù)據(jù)研討會(huì)和展示會(huì)風(fēng)潮就足以證明。這些年來(lái),除了云計(jì)算浪潮,缺乏熱烈話題的IT業(yè)界而言,大數(shù)據(jù)是期待已久的大型關(guān)鍵詞,也許大數(shù)據(jù)會(huì)成為恢復(fù)業(yè)界活力的強(qiáng)心劑。
與此同時(shí),日本政府提出新的IT戰(zhàn)略--將行政數(shù)據(jù)向民間開發(fā),以便不斷創(chuàng)造新商務(wù)。也就是說(shuō),如何有效利用數(shù)據(jù),推動(dòng)商業(yè)成功,業(yè)已成為國(guó)家戰(zhàn)略的一環(huán)。
雖然筆者既不是強(qiáng)烈的贊成派也不是反對(duì)派,但通過(guò)以往的采訪經(jīng)驗(yàn),對(duì)處理數(shù)據(jù)的難度有著清醒的認(rèn)識(shí)。更何況涉及到大數(shù)據(jù),其難度顯而易見。
筆者周邊很多人對(duì)大數(shù)據(jù)也有著各種不同的看法,提出各種問(wèn)題。當(dāng)然這些對(duì)于IT業(yè)界的讀者而言,都是理所當(dāng)然的事情,筆者說(shuō)這些也許是班門弄斧了。但是,正是這些眾所周知的道理通常也是非常重要不可忽視的。因此,下面筆者將重新提出大數(shù)據(jù)的陷阱,探討如何才能避免運(yùn)用大數(shù)據(jù)的失敗。
是否真正需要大量的數(shù)據(jù)
首先,必須明確的一點(diǎn)是,是否真正需要大量的數(shù)據(jù)。
在一次活動(dòng)中,一位統(tǒng)計(jì)分析的專家在談到大數(shù)據(jù)時(shí)說(shuō):本來(lái)統(tǒng)計(jì)分析學(xué)是如何通過(guò)少量的取樣,去了解事務(wù)整體的學(xué)問(wèn)。例如,電視的收視率調(diào)查就是一個(gè)典型的事例,這類調(diào)查就是通過(guò)極少的樣本,來(lái)掌握日本全國(guó)的收視狀況。如果目的明確,并不需要大量的數(shù)據(jù)。
由于上述言論出自目前作為數(shù)據(jù)科學(xué)家備受矚目的統(tǒng)計(jì)分析方面的專家之口,讓筆者不禁大吃一驚。這就是說(shuō),只要有一定量的數(shù)據(jù),無(wú)關(guān)數(shù)據(jù)數(shù)量,分析的結(jié)果并不會(huì)有很大的差別。如果果真如此,不禁讓人產(chǎn)生懷疑,即到底大數(shù)據(jù)是為何而存在。
聽到上述觀點(diǎn),使人感到大數(shù)據(jù)所面臨的矛盾的應(yīng)當(dāng)不僅僅是筆者一人。本以為通過(guò)大數(shù)據(jù)分析,滿懷期待能夠發(fā)現(xiàn)以往沒(méi)有認(rèn)識(shí)到的新的東西,但有時(shí)其結(jié)果不過(guò)是已有所知的事實(shí)而已。如果企業(yè)為系統(tǒng)開發(fā)投入數(shù)十億日元,得出的不過(guò)是證明資深職員經(jīng)驗(yàn)的結(jié)論,這也未免讓人難以接受。
正因?yàn)槿绱?,就有必要重新考慮為何需要大數(shù)據(jù)這一問(wèn)題。例如,企業(yè)需要明確通過(guò)將有交易往來(lái)的公司和社交媒體等本企業(yè)外的大量數(shù)據(jù)進(jìn)行組合,是為達(dá)到何種目的等,即有必要事先制定大數(shù)據(jù)的目標(biāo)。
數(shù)據(jù)的質(zhì)量有無(wú)問(wèn)題
第二點(diǎn)是由誰(shuí)來(lái)維護(hù)大量的數(shù)據(jù),即數(shù)據(jù)的質(zhì)量如何能夠得到保障。
筆者曾聽說(shuō)這樣一件事。某企業(yè)的總經(jīng)理每個(gè)月都會(huì)收到有交易往來(lái)的IT供應(yīng)商的宣傳(PR)雜志,但收件人的頭銜不是總經(jīng)理,而是他曾經(jīng)兼任公司CIO時(shí)的頭銜常務(wù)董事。雖然將頭銜搞錯(cuò),但還是都能收到,因此并沒(méi)有太在意。但當(dāng)這家IT供應(yīng)商的總經(jīng)理到公司進(jìn)行禮節(jié)性拜訪時(shí),就提出了希望改一下頭銜的想法。
而這家IT供應(yīng)商的新的賣點(diǎn)是大數(shù)據(jù),公司的總經(jīng)理當(dāng)場(chǎng)表示回去馬上會(huì)進(jìn)行修改。起初以為這點(diǎn)事情對(duì)于運(yùn)營(yíng)大數(shù)據(jù)業(yè)務(wù)的IT供應(yīng)商而言不過(guò)是舉手之勞,一定會(huì)進(jìn)行糾正。但是,等到下一個(gè)月他收到的的PR雜志時(shí),發(fā)現(xiàn)收件人的頭銜仍然是常務(wù)董事。這位總經(jīng)理通過(guò)兩本PR雜志感到仿佛看到了大數(shù)據(jù)的現(xiàn)狀,因此他非常失望地說(shuō):歸根到底IT供應(yīng)商并沒(méi)有維護(hù)顧客數(shù)據(jù)庫(kù)。
上述例子雖然是顧客數(shù)據(jù),而不僅僅是顧客數(shù)據(jù),說(shuō)到大數(shù)據(jù)必然還需要處理很多各種各樣的企業(yè)外部的數(shù)據(jù)。但是,這些數(shù)據(jù)是否是最新數(shù)據(jù),其數(shù)據(jù)的精確度又如何等數(shù)據(jù)的質(zhì)量就會(huì)非常重要。分析出處不明的數(shù)據(jù)將毫無(wú)意義。如果顧客數(shù)據(jù)不能隨時(shí)進(jìn)行維護(hù),也就不會(huì)產(chǎn)生任何價(jià)值。不應(yīng)當(dāng)將當(dāng)初以為是寶山的大數(shù)據(jù),變成一座堆滿垃圾的山。
是否忽視了現(xiàn)場(chǎng)職工的工作干勁
第三點(diǎn)就是企業(yè)不僅應(yīng)當(dāng)努力培養(yǎng)數(shù)據(jù)科學(xué)家,同時(shí)也需要提升現(xiàn)場(chǎng)職員的分析數(shù)據(jù)的能力。如果在店頭等現(xiàn)場(chǎng)直接接觸顧客的員工變得擅長(zhǎng)數(shù)字,他們也能夠常常通過(guò)數(shù)據(jù)考慮事情并進(jìn)行判斷,這樣的企業(yè)必定會(huì)強(qiáng)大起來(lái)。
例如,有一家超市的店頭銷售員就從與顧客的對(duì)話中得到啟發(fā),通過(guò)購(gòu)進(jìn)新的商品或是改變商品陳列的方法,提升了銷售額。又比如,在特快列車上負(fù)責(zé)銷售的員工,發(fā)現(xiàn)似乎可吸煙座位的咖啡暢銷,當(dāng)他整理出不同列車的銷售業(yè)績(jī),結(jié)果發(fā)現(xiàn)確實(shí)是如此。于是決定在吸煙車廂集中推銷咖啡,結(jié)果咖啡的銷售量明顯增加。
當(dāng)然,通過(guò)現(xiàn)場(chǎng)增加的銷售額,也許和利用大數(shù)據(jù)獲得的銷售數(shù)字相比很小,而且其分析能力也遠(yuǎn)遠(yuǎn)不及數(shù)據(jù)科學(xué)家。但是即便如此,如果通過(guò)將這種方式橫向拓展到其他現(xiàn)場(chǎng),積累的數(shù)字也會(huì)非??捎^。同時(shí),最為重要的是,這種方式能夠提升現(xiàn)場(chǎng)員工的工作動(dòng)力。
實(shí)際上,某零售企業(yè)自從將其銷售分析統(tǒng)一由總公司實(shí)施后,店頭員工就失去干勁,甚至出現(xiàn)退職的員工。這說(shuō)明只依靠上級(jí)的指令,則會(huì)降低現(xiàn)場(chǎng)的職業(yè)道德。因此,這家公司決定給予現(xiàn)場(chǎng)員工自由分析判斷的職能,由此店頭又重新恢復(fù)了活力。雖然大數(shù)據(jù)非常重要,但是如果將權(quán)限集中在某些部門,則會(huì)導(dǎo)致現(xiàn)場(chǎng)喪失工作干勁。
以上三點(diǎn)實(shí)際上不僅僅對(duì)大數(shù)據(jù)而言非常重要,而且同時(shí)適用于整個(gè)信息系統(tǒng)。大數(shù)據(jù)是IT業(yè)界期待已久的關(guān)鍵詞,為使其成長(zhǎng)壯大,就需要腳踏實(shí)地的努力,而不應(yīng)被其華麗的部分所束縛擺弄。正因?yàn)槿绱?,筆者認(rèn)為提出的上述三點(diǎn)需要重新銘記心中。CDA數(shù)據(jù)分析師培訓(xùn)官網(wǎng)
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03