
大數(shù)據(jù)如何貢獻大價值?以應用為中心
9月的浦東新區(qū),天氣已經(jīng)略有涼意。張江高科技園區(qū)一個四周是玻璃的高檔辦公樓里,一大早,市場部門的資深員工李小姐正在自己的座位上開始一天工作之前的熱身:倒杯水,花上一刻鐘到半小時在各大網(wǎng)站上瀏覽當天要聞。在她最經(jīng)常去的幾個論壇里,通常汽車、服裝,或者旅游促銷的廣告會不請自來;最近她發(fā)現(xiàn)這種多年不變的情形有了些不經(jīng)意的變化,比如剛剛跳出的這個窗口:大數(shù)據(jù)分析幫助你鎖定高價值客戶“大數(shù)據(jù)”和旅游論壇有啥關系?她百思不得其解。
她所不知道的是,她在瀏覽器搜索界面里曾經(jīng)輸入的“客戶”、 “促銷”、“通信錄”等關鍵詞,已被IE上面掛靠的抓取程序自動獲取,并且被關聯(lián)了相應的廣告,由IE插件完成最終的廣告推送。在北京郊區(qū)某處的機房里,基于“關聯(lián)規(guī)則”和“聚類”等統(tǒng)計分析方法的分析軟件在時刻不停地處理成千上萬個李小姐產(chǎn)生的數(shù)據(jù)。
她或許還沒有注意到的是,大數(shù)據(jù)和分析正在成為全世界炙手可熱的概念。先是幾年前谷歌首席經(jīng)濟學家宣稱:數(shù)據(jù)分析員正成為21世紀最性感的職業(yè);又有2012年3月29日奧巴馬政府公布“大數(shù)據(jù)研發(fā)計劃” (Big Data Research and Development Initiative),白宮科技政策委員會(OSTP)還成立了大數(shù)據(jù)高層指導小組以推動這一戰(zhàn)略規(guī)劃。再有就是今年的事情了,地球人都已經(jīng)知道,2013年是“國際統(tǒng)計年”。
幾個月前,JMP的老朋友Michael Rappa教授于美國眾院聆訊,主題正是“Next Generation Computing and Big Data Analytics”――下一代計算及大數(shù)據(jù)分析。Rappa教授作為IAA(Institute of Advanced Analytics, NCSU,北卡州立大學高等分析學院)創(chuàng)始人,去年被美國科學基金會新創(chuàng)立的大數(shù)據(jù)委員會任命為學術聯(lián)合主席。奧巴馬政府的大數(shù)據(jù)研發(fā)計劃資金正是來自于美國科學基金會。
國內(nèi)學術界,得益于前中國人民大學常務副校長袁衛(wèi)先生及其他統(tǒng)計學界知名教授學者的持續(xù)不懈的努力,2012年,教育部終于把統(tǒng)計從數(shù)學的范疇內(nèi)獨立出來,正式升級成為與數(shù)學、物理、化學、計算機等大學科平級的“一級學科”。
以統(tǒng)計學為核心的數(shù)據(jù)分析方法正在學術、工商和政府等領域顯現(xiàn)出越來越大的價值。李小姐電腦上的變化,則是這一趨勢的小小表征。
最近Gartner發(fā)布了2013年度商業(yè)智能和分析的魔力四象限圖,報告明確指出,大數(shù)據(jù)和分析正在成為企業(yè)IT規(guī)劃的核心。
一切的現(xiàn)象都在告訴人們,一個新的科技時代似乎正在來臨。有些IT職業(yè)追潮人士甚至激動地認為“人類歷史上第三次科技革命”即將到來。
問題在于,什么是大數(shù)據(jù)?為什么人人言必稱大數(shù)據(jù)?
“很大很大的數(shù)據(jù)”就是大數(shù)據(jù)。對“大”的定義在不斷刷新。10年前1GB數(shù)據(jù)已經(jīng)很大了,今天,1000GB并不算太大。
問題其實不在于大,而在價值。“大數(shù)據(jù)”再大仍舊只是數(shù)據(jù),沒有足夠有效的分析與應用,一切數(shù)據(jù)都是垃圾。紐約時報專欄作家David Brooks認為,缺乏足夠有效的分析是大數(shù)據(jù)的最大問題:越來越多的數(shù)據(jù),帶來越來越多的相關性;其實很多相關性都是沒有意義的,這種欺騙性質(zhì)的數(shù)據(jù)關聯(lián)會把數(shù)據(jù)管理者和使用者引入歧途,浪費大量的人力物力去管理、分析這些數(shù)據(jù)。
除了傳統(tǒng)意義上人們認為的那些有行有列有數(shù)值或者文字的數(shù)據(jù)表單之外,IT技術還幫助人們收集了越來越多的其他類型的資料,比如視頻,語音,圖片,文檔等。這些被稱為“非結構化數(shù)據(jù)”。
結構化與非結構化數(shù)據(jù)每天都在成倍的增加。以道路視頻監(jiān)控為例,全上海的攝像頭有10多萬個,每一刻都在記錄圖片與視頻。一旦發(fā)生案件或者事件,這些記錄在硬盤庫里的資料就成為偵察與審判環(huán)節(jié)的重要證據(jù)。盡管目前技術尚不支持,業(yè)界仍然期望未來能在TB乃至于PB級的視頻數(shù)據(jù)里搜到一張?zhí)囟ㄉ碛盎蛘吣樋住_@類搜索/分析技術未來將是啟動視頻類大數(shù)據(jù)應用的引擎。
同樣,基于語音、照片或者文本的分析與數(shù)據(jù)挖掘同樣可以給人類對數(shù)據(jù)的理解帶來革命性的突破。問題在于,這類技術仍停留在實驗室階段。
盡管沒有足夠的應用,大數(shù)據(jù)仍然不可阻擋地火熱了起來。不扯上大數(shù)據(jù)似乎就要落伍了一樣,大數(shù)據(jù)滿天飛的日子來到了。至于這股潮流到底會演變成象.com一樣的泡沫,還是第三次產(chǎn)業(yè)革命,在華威先生們眼里,已經(jīng)根本不重要了。業(yè)界,數(shù)據(jù)庫/存儲等領域供應商當然樂見其成,而企業(yè)的IT經(jīng)理們則又多了一個申請預算的借口。
數(shù)據(jù)的獲取與存儲仍然是IT建設的基礎架構。一旦決定啟動“大數(shù)據(jù)戰(zhàn)略”,對資源源源不斷的占用使得這一工作黑洞化。如何規(guī)避這種大數(shù)據(jù)黑洞?結合全球主要行業(yè)領導企業(yè)以及部分小而強的歐洲企業(yè)的成功案例,我認為,應該以應用(分析及業(yè)務決策)為中心建立相應的數(shù)據(jù)戰(zhàn)略,并且隨之建立相應的從收集數(shù)據(jù)、管理數(shù)據(jù)到最終業(yè)務決策的一整套流程。而不是為數(shù)據(jù)而數(shù)據(jù)——首先要建立以應用為中心的數(shù)據(jù)戰(zhàn)略。說到應用,銀行、保險、汽車、化工等幾乎所有行業(yè)都在開展以數(shù)據(jù)分析為基礎的各種應用,以JMP軟件全球行業(yè)案例庫里面的部分典型客戶為例:
電商在分析顧客采購行為數(shù)據(jù),以進行促銷和相關貨品推薦(交叉/提升銷售)
航空公司在調(diào)查旅客反饋,以改進空中服務(客戶挽留)
藥廠在對臨床實驗數(shù)據(jù)進行分析,以判斷新藥的安全性和有效性(研發(fā)新產(chǎn)品)
汽車廠商在對維修信息進行分析,以改進汽車整車和關鍵零部件的可靠性以提升客戶滿意度(挽留及獲取客戶)、降低客戶擁有成本和車廠的保修成本(降低成本)
手機公司在對手機銷售量進行預測,以合理排產(chǎn)與優(yōu)化庫存(運營優(yōu)化)
衛(wèi)生管理部門在運用數(shù)據(jù)模型對流行病趨勢進行描述、監(jiān)控與預測
銀行在對客戶服務流程進行優(yōu)化與改善,以提升客戶滿意度
電腦廠商在利用客戶對不同配置組合進行市場調(diào)查,以進行定價
保險公司在根據(jù)保單出險情況進行保單定價的動態(tài)調(diào)整,以確保該產(chǎn)品基本盈利能力
半導體企業(yè)在對制造全流程數(shù)據(jù)進行分析/建模/優(yōu)化,以改善工藝,提升良率,從而實現(xiàn)成本降低與利潤提升
食品公司在利用數(shù)據(jù)分析和市場調(diào)查手段,研發(fā)本地客戶最喜好的口味
快速食品行業(yè)在利用JMP地圖分析工具與人口統(tǒng)計學相結合,以進行門店選址,客戶獲取及供應鏈優(yōu)化
只有足夠有效的應用,方可獲取數(shù)據(jù)的價值。企業(yè)只有在戰(zhàn)略層面確立了數(shù)據(jù)分析的重要性,方可持續(xù)改善。以GE為例,六西格瑪及相應的數(shù)據(jù)分析流程已經(jīng)成為GE的全球戰(zhàn)略與文化。不僅如何,GE還持續(xù)不懈地推動基于數(shù)據(jù)分析的持續(xù)改善工作。在高端航空發(fā)動機研發(fā)及GE能源系統(tǒng)業(yè)務領域方面,GE也與時俱進,導入JMP所代表的業(yè)界最高水平的實驗設計(DOE)方法,以進一步提升其研發(fā)水平。
其次,一切都離不開人。與這股指數(shù)級增長的數(shù)據(jù)分析需求相對應,統(tǒng)計、分析類人才正成為職場上的稀缺品種和搶手貨。3月初華爾街日報刊登了“全美最搶手職業(yè)排名”,數(shù)據(jù)分析類職位高居榜單第二位。這是美國。對中國來說,或許排名更高,因為稀缺。
最后,建立一整套以數(shù)據(jù)分析及決策流程,以取代傳統(tǒng)的拍腦袋決策體系。這一點對于中國企業(yè)來說尤其需要強調(diào)。這不僅僅是對戰(zhàn)略的有效執(zhí)行,更需要企業(yè)拿出“改變”的決心和勇氣,在制度層面體現(xiàn)出對“改變”的鼓勵和包容。
在這個應用為王的年代,對于企業(yè)來說,不論是搭建基礎架構還是應用軟件,要不要投入,如何投入,其實是個老話題了,無外乎價值與價格。大數(shù)據(jù)/云計算,不論名字如何變化,邏輯依舊。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經(jīng)網(wǎng)絡(RNN)家族中,長短期記憶網(wǎng)絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網(wǎng)絡(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調(diào)研數(shù)據(jù)中的深度應用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數(shù)據(jù)處理的關鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03