做數(shù)據(jù)挖掘工作需要具備哪些思維原理_數(shù)據(jù)分析師考試

大數(shù)據(jù)思維原理是什么？筆者概括為10項(xiàng)原理。

一、數(shù)據(jù)核心原理

從“流程”核心轉(zhuǎn)變?yōu)椤皵?shù)據(jù)”核心

大數(shù)據(jù)時(shí)代，計(jì)算模式也發(fā)生了轉(zhuǎn)變，從“流程”核心轉(zhuǎn)變?yōu)椤皵?shù)據(jù)”核心。Hadoop體系的分布式計(jì)算框架已經(jīng)是“數(shù)據(jù)”為核心的范式。非結(jié)構(gòu)化數(shù)據(jù)及分析需求，將改變IT系統(tǒng)的升級(jí)方式：從簡(jiǎn)單增量到架構(gòu)變化。大數(shù)據(jù)下的新思維——計(jì)算模式的轉(zhuǎn)變。

例如：IBM將使用以數(shù)據(jù)為中心的設(shè)計(jì)，目的是降低在超級(jí)計(jì)算機(jī)之間進(jìn)行大量數(shù)據(jù)交換的必要性。大數(shù)據(jù)下，云計(jì)算找到了破繭重生的機(jī)會(huì)，在存儲(chǔ)和計(jì)算上都體現(xiàn)了數(shù)據(jù)為核心的理念。大數(shù)據(jù)和云計(jì)算的關(guān)系：云計(jì)算為大數(shù)據(jù)提供了有力的工具和途徑，大數(shù)據(jù)為云計(jì)算提供了很有價(jià)值的用武之地。而大數(shù)據(jù)比云計(jì)算更為落地，可有效利用已大量建設(shè)的云計(jì)算資源，最后加以利用。

科學(xué)進(jìn)步越來越多地由數(shù)據(jù)來推動(dòng)，海量數(shù)據(jù)給數(shù)據(jù)分析既帶來了機(jī)遇，也構(gòu)成了新的挑戰(zhàn)。大數(shù)據(jù)往往是利用眾多技術(shù)和方法，綜合源自多個(gè)渠道、不同時(shí)間的信息而獲得的。為了應(yīng)對(duì)大數(shù)據(jù)帶來的挑戰(zhàn)，我們需要新的統(tǒng)計(jì)思路和計(jì)算方法。

說明：用數(shù)據(jù)核心思維方式思考問題，解決問題。以數(shù)據(jù)為核心，反映了當(dāng)下IT產(chǎn)業(yè)的變革，數(shù)據(jù)成為人工智能的基礎(chǔ)，也成為智能化的基礎(chǔ)，數(shù)據(jù)比流程更重要，數(shù)據(jù)庫(kù)、記錄數(shù)據(jù)庫(kù)，都可開發(fā)出深層次信息。云計(jì)算機(jī)可以從數(shù)據(jù)庫(kù)、記錄數(shù)據(jù)庫(kù)中搜索出你是誰，你需要什么，從而推薦給你需要的信息。

二、數(shù)據(jù)價(jià)值原理

由功能是價(jià)值轉(zhuǎn)變?yōu)閿?shù)據(jù)是價(jià)值

大數(shù)據(jù)真正有意思的是數(shù)據(jù)變得在線了，這個(gè)恰恰是互聯(lián)網(wǎng)的特點(diǎn)。非互聯(lián)網(wǎng)時(shí)期的產(chǎn)品，功能一定是它的價(jià)值，今天互聯(lián)網(wǎng)的產(chǎn)品，數(shù)據(jù)一定是它的價(jià)值。

例如：大數(shù)據(jù)的真正價(jià)值在于創(chuàng)造，在于填補(bǔ)無數(shù)個(gè)還未實(shí)現(xiàn)過的空白。有人把數(shù)據(jù)比喻為蘊(yùn)藏能量的煤礦，煤炭按照性質(zhì)有焦煤、無煙煤、肥煤、貧煤等分類，而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似，大數(shù)據(jù)并不在“大”，而在于“有用”，價(jià)值含量、挖掘成本比數(shù)量更為重要。不管大數(shù)據(jù)的核心價(jià)值是不是預(yù)測(cè)，但是基于大數(shù)據(jù)形成決策的模式已經(jīng)為不少的企業(yè)帶來了盈利和聲譽(yù)。

數(shù)據(jù)能告訴我們，每一個(gè)客戶的消費(fèi)傾向，他們想要什么，喜歡什么，每個(gè)人的需求有哪些區(qū)別，哪些又可以被集合到一起來進(jìn)行分類。大數(shù)據(jù)是數(shù)據(jù)數(shù)量上的增加，以至于我們能夠?qū)崿F(xiàn)從量變到質(zhì)變的過程。舉例來說，這里有一張照片，照片里的人在騎馬，這張照片每一分鐘，每一秒都要拍一張，但隨著處理速度越來越快，從1分鐘一張到1秒鐘1張，突然到1秒鐘10張后，就產(chǎn)生了電影。當(dāng)數(shù)量的增長(zhǎng)實(shí)現(xiàn)質(zhì)變時(shí)，就從照片變成了一部電影。

美國(guó)有一家創(chuàng)新企業(yè)Decide.com

它可以幫助人們做購(gòu)買決策，告訴消費(fèi)者什么時(shí)候買什么產(chǎn)品，什么時(shí)候買最便宜，預(yù)測(cè)產(chǎn)品的價(jià)格趨勢(shì)，這家公司背后的驅(qū)動(dòng)力就是大數(shù)據(jù)。他們?cè)谌蚋鞔缶W(wǎng)站上搜集數(shù)以十億計(jì)的數(shù)據(jù)，然后幫助數(shù)以十萬計(jì)的用戶省錢，為他們的采購(gòu)找到最好的時(shí)間，降低交易成本，為終端的消費(fèi)者帶去更多價(jià)值。

在這類模式下，盡管一些零售商的利潤(rùn)會(huì)進(jìn)一步受擠壓，但從商業(yè)本質(zhì)上來講，可以把錢更多地放回到消費(fèi)者的口袋里，讓購(gòu)物變得更理性，這是依靠大數(shù)據(jù)催生出的一項(xiàng)全新產(chǎn)業(yè)。這家為數(shù)以十萬計(jì)的客戶省錢的公司，在幾個(gè)星期前，被eBay以高價(jià)收購(gòu)。

再舉一個(gè)例子，SWIFT是全球最大的支付平臺(tái)，在該平臺(tái)上的每一筆交易都可以進(jìn)行大數(shù)據(jù)的分析,他們可以預(yù)測(cè)一個(gè)經(jīng)濟(jì)體的健康性和增長(zhǎng)性。比如，該公司現(xiàn)在為全球性客戶提供經(jīng)濟(jì)指數(shù)，這又是一個(gè)大數(shù)據(jù)服務(wù)。,定制化服務(wù)的關(guān)鍵是數(shù)據(jù)。《大數(shù)據(jù)時(shí)代》的作者維克托?邁爾?舍恩伯格認(rèn)為，大量的數(shù)據(jù)能夠讓傳統(tǒng)行業(yè)更好地了解客戶需求，提供個(gè)性化的服務(wù)。

說明：用數(shù)據(jù)價(jià)值思維方式思考問題，解決問題。信息總量的變化導(dǎo)致了信息形態(tài)的變化，量變引發(fā)了質(zhì)變，最先經(jīng)歷信息爆炸的學(xué)科，如天文學(xué)和基因?qū)W，創(chuàng)造出了“大數(shù)據(jù)”這個(gè)概念。如今，這個(gè)概念幾乎應(yīng)用到了所有人類致力于發(fā)展的領(lǐng)域中。從功能為價(jià)值轉(zhuǎn)變?yōu)閿?shù)據(jù)為價(jià)值，說明數(shù)據(jù)和大數(shù)據(jù)的價(jià)值在擴(kuò)大，數(shù)據(jù)為“王”的時(shí)代出現(xiàn)了。數(shù)據(jù)被解釋是信息，信息常識(shí)化是知識(shí)，所以說數(shù)據(jù)解釋、數(shù)據(jù)分析能產(chǎn)生價(jià)值。

三、全樣本原理

從抽樣轉(zhuǎn)變?yōu)樾枰繑?shù)據(jù)樣本

需要全部數(shù)據(jù)樣本而不是抽樣，你不知道的事情比你知道的事情更重要，但如果現(xiàn)在數(shù)據(jù)足夠多，它會(huì)讓人能夠看得見、摸得著規(guī)律。數(shù)據(jù)這么大、這么多，所以人們覺得有足夠的能力把握未來，對(duì)不確定狀態(tài)的一種判斷，從而做出自己的決定。這些東西我們聽起來都是非常原始的，但是實(shí)際上背后的思維方式，和我們今天所講的大數(shù)據(jù)是非常像的。

舉例：在大數(shù)據(jù)時(shí)代，無論是商家還是信息的搜集者，會(huì)比我們自己更知道你可能會(huì)想干什么?，F(xiàn)在的數(shù)據(jù)還沒有被真正挖掘，如果真正挖掘的話，通過信用卡消費(fèi)的記錄，可以成功預(yù)測(cè)未來5年內(nèi)的情況。統(tǒng)計(jì)學(xué)里頭最基本的一個(gè)概念就是，全部樣本才能找出規(guī)律。為什么能夠找出行為規(guī)律？一個(gè)更深層的概念是人和人是一樣的，如果是一個(gè)人特例出來，可能很有個(gè)性，但當(dāng)人口樣本數(shù)量足夠大時(shí)，就會(huì)發(fā)現(xiàn)其實(shí)每個(gè)人都是一模一樣的。

說明：用全數(shù)據(jù)樣本思維方式思考問題，解決問題。從抽樣中得到的結(jié)論總是有水分的，而全部樣本中得到的結(jié)論水分就很少，大數(shù)據(jù)越大，真實(shí)性也就越大，因?yàn)榇髷?shù)據(jù)包含了全部的信息。

四、關(guān)注效率原理

由關(guān)注精確度轉(zhuǎn)變?yōu)殛P(guān)注效率

關(guān)注效率而不是精確度，大數(shù)據(jù)標(biāo)志著人類在尋求量化和認(rèn)識(shí)世界的道路上前進(jìn)了一大步，過去不可計(jì)量、存儲(chǔ)、分析和共享的很多東西都被數(shù)據(jù)化了，擁有大量的數(shù)據(jù)和更多不那么精確的數(shù)據(jù)為我們理解世界打開了一扇新的大門。大數(shù)據(jù)能提高生產(chǎn)效率和銷售效率，原因是大數(shù)據(jù)能夠讓我們知道市場(chǎng)的需要，人的消費(fèi)需要。大數(shù)據(jù)讓企業(yè)的決策更科學(xué)，由關(guān)注精確度轉(zhuǎn)變?yōu)殛P(guān)注效率的提高，大數(shù)據(jù)分析能提高企業(yè)的效率。

例如：在互聯(lián)網(wǎng)大數(shù)據(jù)時(shí)代，企業(yè)產(chǎn)品迭代的速度在加快。三星、小米手機(jī)制造商半年就推出一代新智能手機(jī)。利用互聯(lián)網(wǎng)、大數(shù)據(jù)提高企業(yè)效率的趨勢(shì)下，快速就是效率、預(yù)測(cè)就是效率、預(yù)見就是效率、變革就是效率、創(chuàng)新就是效率、應(yīng)用就是效率。

競(jìng)爭(zhēng)是企業(yè)的動(dòng)力，而效率是企業(yè)的生命，效率低與效率高是衡量企來成敗的關(guān)鍵。一般來講，投入與產(chǎn)出比是效率，追求高效率也就是追求高價(jià)值。手工、機(jī)器、自動(dòng)機(jī)器、智能機(jī)器之間效率是不同的，智能機(jī)器效率更高，已能代替人的思維勞動(dòng)。智能機(jī)器核心是大數(shù)據(jù)制動(dòng)，而大數(shù)據(jù)制動(dòng)的速度更快。在快速變化的市場(chǎng)，快速預(yù)測(cè)、快速?zèng)Q策、快速創(chuàng)新、快速定制、快速生產(chǎn)、快速上市成為企業(yè)行動(dòng)的準(zhǔn)則，也就是說，速度就是價(jià)值，效率就是價(jià)值，而這一切離不開大數(shù)據(jù)思維。

說明：用關(guān)注效率思維方式思考問題，解決問題。大數(shù)據(jù)思維有點(diǎn)像混沌思維，確定與不確定交織在一起，過去那種一元思維結(jié)果，已被二元思維結(jié)果取代。過去尋求精確度，現(xiàn)在尋求高效率；過去尋求因果性，現(xiàn)在尋求相關(guān)性；過去尋找確定性，現(xiàn)在尋找概率性，對(duì)不精確的數(shù)據(jù)結(jié)果已能容忍。只要大數(shù)據(jù)分析指出可能性，就會(huì)有相應(yīng)的結(jié)果，從而為企業(yè)快速?zèng)Q策、快速動(dòng)作、創(chuàng)占先機(jī)提高了效率。

五、關(guān)注相關(guān)性原理

由因果關(guān)系轉(zhuǎn)變?yōu)殛P(guān)注相關(guān)性

關(guān)注相關(guān)性而不是因果關(guān)系，社會(huì)需要放棄它對(duì)因果關(guān)系的渴求，而僅需關(guān)注相關(guān)關(guān)系，也就是說只需要知道是什么，而不需要知道為什么。這就推翻了自古以來的慣例，而我們做決定和理解現(xiàn)實(shí)的最基本方式也將受到挑戰(zhàn)。

例如：大數(shù)據(jù)思維一個(gè)最突出的特點(diǎn)，就是從傳統(tǒng)的因果思維轉(zhuǎn)向相關(guān)思維，傳統(tǒng)的因果思維是說我一定要找到一個(gè)原因，推出一個(gè)結(jié)果來。而大數(shù)據(jù)沒有必要找到原因，不需要科學(xué)的手段來證明這個(gè)事件和那個(gè)事件之間有一個(gè)必然，先后關(guān)聯(lián)發(fā)生的一個(gè)因果規(guī)律。它只需要知道，出現(xiàn)這種跡象的時(shí)候，我就按照一般的情況，這個(gè)數(shù)據(jù)統(tǒng)計(jì)的高概率顯示它會(huì)有相應(yīng)的結(jié)果，那么我只要發(fā)現(xiàn)這種跡象的時(shí)候，我就可以去做一個(gè)決策，我該怎么做。這是和以前的思維方式很不一樣，老實(shí)說，它是一種有點(diǎn)反科學(xué)的思維，科學(xué)要求實(shí)證，要求找到準(zhǔn)確的因果關(guān)系。

在這個(gè)不確定的時(shí)代里面，等我們?nèi)フ业綔?zhǔn)確的因果關(guān)系，再去辦事的時(shí)候，這個(gè)事情早已經(jīng)不值得辦了。所以“大數(shù)據(jù)”時(shí)代的思維有點(diǎn)像回歸了工業(yè)社會(huì)的這種機(jī)械思維——機(jī)械思維就是說我按那個(gè)按鈕，一定會(huì)出現(xiàn)相應(yīng)的結(jié)果，是這樣狀態(tài)。而農(nóng)業(yè)社會(huì)往前推，不需要找到中間非常緊密的、明確的因果關(guān)系，而只需要找到相關(guān)關(guān)系，只需要找到跡象就可以了。社會(huì)因此放棄了尋找因果關(guān)系的傳統(tǒng)偏好，開始挖掘相關(guān)關(guān)系的好處。

例如：美國(guó)人開發(fā)一款“個(gè)性化分析報(bào)告自動(dòng)可視化程序”軟件從網(wǎng)上挖掘數(shù)據(jù)信息，這款數(shù)據(jù)挖掘軟件將自動(dòng)從各種數(shù)據(jù)中提取重要信息，然后進(jìn)行分析，并把此信息與以前的數(shù)據(jù)關(guān)聯(lián)起來，分析出有用的信息。

非法在屋內(nèi)打隔斷的建筑物著火的可能性比其他建筑物高很多。紐約市每年接到2.5萬宗有關(guān)房屋住得過于擁擠的投訴，但市里只有200名處理投訴的巡視員，市長(zhǎng)辦公室一個(gè)分析專家小組覺得大數(shù)據(jù)可以幫助解決這一需求與資源的落差。該小組建立了一個(gè)市內(nèi)全部90萬座建筑物的數(shù)據(jù)庫(kù)，并在其中加入市里19個(gè)部門所收集到的數(shù)據(jù)：欠稅扣押記錄、水電使用異常、繳費(fèi)拖欠、服務(wù)切斷、救護(hù)車使用、當(dāng)?shù)胤缸锫省⑹蠡纪对V，諸如此類。

接下來，他們將這一數(shù)據(jù)庫(kù)與過去5年中按嚴(yán)重程度排列的建筑物著火記錄進(jìn)行比較，希望找出相關(guān)性。果然，建筑物類型和建造年份是與火災(zāi)相關(guān)的因素。不過，一個(gè)沒怎么預(yù)料到的結(jié)果是，獲得外磚墻施工許可的建筑物與較低的嚴(yán)重火災(zāi)發(fā)生率之間存在相關(guān)性。利用所有這些數(shù)據(jù)，該小組建立了一個(gè)可以幫助他們確定哪些住房擁擠投訴需要緊急處理的系統(tǒng)。他們所記錄的建筑物的各種特征數(shù)據(jù)都不是導(dǎo)致火災(zāi)的原因，但這些數(shù)據(jù)與火災(zāi)隱患的增加或降低存在相關(guān)性。這種知識(shí)被證明是極具價(jià)值的：過去房屋巡視員出現(xiàn)場(chǎng)時(shí)簽發(fā)房屋騰空令的比例只有13%，在采用新辦法之后，這個(gè)比例上升到了70%——效率大大提高了。

全世界的商界人士都在高呼大數(shù)據(jù)時(shí)代來臨的優(yōu)勢(shì)：一家超市如何從一個(gè)17歲女孩的購(gòu)物清單中，發(fā)現(xiàn)了她已懷孕的事實(shí)；或者將啤酒與尿不濕放在一起銷售，神奇地提高了雙方的銷售額。大數(shù)據(jù)透露出來的信息有時(shí)確實(shí)會(huì)起顛覆。比如，騰訊一項(xiàng)針對(duì)社交網(wǎng)絡(luò)的統(tǒng)計(jì)顯示，愛看家庭劇的男人是女性的兩倍還多；最關(guān)心金價(jià)的是中國(guó)大媽，但緊隨其后的卻是90后。而在過去一年，支付寶中無線支付比例排名前十的竟然全部在青海、西藏和內(nèi)蒙古地區(qū)。

說明：用關(guān)注相關(guān)性思維方式來思考問題，解決問題。尋找原因是一種現(xiàn)代社會(huì)的一神論，大數(shù)據(jù)推翻了這個(gè)論斷。過去尋找原因的信念正在被“更好”的相關(guān)性所取代。當(dāng)世界由探求因果關(guān)系變成挖掘相關(guān)關(guān)系，我們?cè)鯓硬拍芗炔粨p壞建立在因果推理基礎(chǔ)之上的社會(huì)繁榮和人類進(jìn)步的基石，又取得實(shí)際的進(jìn)步呢？這是值得思考的問題。

解釋：轉(zhuǎn)向相關(guān)性，不是不要因果關(guān)系，因果關(guān)系還是基礎(chǔ)，科學(xué)的基石還是要的。只是在高速信息化的時(shí)代，為了得到即時(shí)信息，實(shí)時(shí)預(yù)測(cè)，在快速的大數(shù)據(jù)分析技術(shù)下，尋找到相關(guān)性信息，就可預(yù)測(cè)用戶的行為，為企業(yè)快速?zèng)Q策提供提前量。

比如預(yù)警技術(shù)，只有提前幾十秒察覺，防御系統(tǒng)才能起作用。比如，雷達(dá)顯示有個(gè)提前量，如果沒有這個(gè)預(yù)知的提前量，雷達(dá)的作用也就沒有了，相關(guān)性也是這個(gè)原理。比如，相對(duì)論與量子論的爭(zhēng)論也能說明問題，一個(gè)說上帝不擲骰子，一個(gè)說上帝擲骰子，爭(zhēng)論幾十年，最后承認(rèn)兩個(gè)都存在，而且量子論取得更大的發(fā)展——一個(gè)適用于宇宙尺度，一個(gè)適用于原子尺度。

六、預(yù)測(cè)原理

從不能預(yù)測(cè)轉(zhuǎn)變?yōu)榭梢灶A(yù)測(cè)

大數(shù)據(jù)的核心就是預(yù)測(cè)，大數(shù)據(jù)能夠預(yù)測(cè)體現(xiàn)在很多方面。大數(shù)據(jù)不是要教機(jī)器像人一樣思考，相反，它是把數(shù)學(xué)算法運(yùn)用到海量的數(shù)據(jù)上來預(yù)測(cè)事情發(fā)生的可能性。正因?yàn)樵诖髷?shù)據(jù)規(guī)律面前，每個(gè)人的行為都跟別人一樣，沒有本質(zhì)變化，所以商家會(huì)比消費(fèi)者更了消費(fèi)者的行為。

例如：大數(shù)據(jù)助微軟準(zhǔn)確預(yù)測(cè)世界懷。微軟大數(shù)據(jù)團(tuán)隊(duì)在2014年巴西世界足球賽前設(shè)計(jì)了世界懷模型，該預(yù)測(cè)模型正確預(yù)測(cè)了賽事最后幾輪每場(chǎng)比賽的結(jié)果，包括預(yù)測(cè)德國(guó)隊(duì)將最終獲勝。預(yù)測(cè)成功歸功于微軟在世界懷進(jìn)行過程中獲取的大量數(shù)據(jù)，到淘汰賽階段，數(shù)據(jù)如滾雪球般增多，常握了有關(guān)球員和球隊(duì)的足夠信息，以適當(dāng)校準(zhǔn)模型并調(diào)整對(duì)接下來比賽的預(yù)測(cè)。

世界杯預(yù)測(cè)模型的方法與設(shè)計(jì)其它事件的模型相同，訣竅就是在預(yù)測(cè)中去除主觀性，讓數(shù)據(jù)說話。預(yù)測(cè)性數(shù)學(xué)模型幾乎不算新事物，但它們正變得越來越準(zhǔn)確。在這個(gè)時(shí)代，數(shù)據(jù)分析能力終于開始趕上數(shù)據(jù)收集能力，分析師不僅有比以往更多的信息可用于構(gòu)建模型，也擁有在很短時(shí)間內(nèi)通過計(jì)算機(jī)將信息轉(zhuǎn)化為相關(guān)數(shù)據(jù)的技術(shù)。

幾年前，得等每場(chǎng)比賽結(jié)束以后才能獲取所有數(shù)據(jù)，現(xiàn)在，數(shù)據(jù)是自動(dòng)實(shí)時(shí)發(fā)送的，這讓預(yù)測(cè)模型能獲得更好的調(diào)整且更準(zhǔn)確。微軟世界懷模型的成績(jī)說明了其模型的實(shí)力，它的成功為大數(shù)據(jù)的力量提供了強(qiáng)有力的證明，利用同樣的方法還可預(yù)測(cè)選舉或關(guān)注股票。類似的大數(shù)據(jù)分析正用于商業(yè)、政府、經(jīng)濟(jì)學(xué)和社會(huì)科學(xué)，它們都關(guān)于原始數(shù)據(jù)進(jìn)行分析。

我們進(jìn)入了一個(gè)用數(shù)據(jù)進(jìn)行預(yù)測(cè)的時(shí)代，雖然我們可能無法解釋其背后的原因。如果一個(gè)醫(yī)生只要求病人遵從醫(yī)囑，卻沒法說明醫(yī)學(xué)干預(yù)的合理性的話，情況會(huì)怎么樣呢？實(shí)際上，這是依靠大數(shù)據(jù)取得病理分析的醫(yī)生們一定會(huì)做的事情。

從一個(gè)人亂穿馬路時(shí)行進(jìn)的軌跡和速度來看他能及時(shí)穿過馬路的可能性，都是大數(shù)據(jù)可以預(yù)測(cè)的范圍。當(dāng)然，如果一個(gè)人能及時(shí)穿過馬路，那么他亂穿馬路時(shí)，車子就只需要稍稍減速就好。但是這些預(yù)測(cè)系統(tǒng)之所以能夠成功，關(guān)鍵在于它們是建立在海量數(shù)據(jù)的基礎(chǔ)之上的。