
馬云在2012年網(wǎng)商大會(huì)上的演講中說(shuō)過(guò):“假如我們有了一個(gè)數(shù)據(jù)預(yù)報(bào)臺(tái),就像為企業(yè)裝上了一個(gè)GPS和雷達(dá),企業(yè)的出海將會(huì)更有把握。”。這里的數(shù)據(jù)預(yù)報(bào)臺(tái)就是下文所述的商業(yè)智能。
什么是商業(yè)智能(Business Intelligence)
數(shù)據(jù)挖掘的最終目的是要實(shí)現(xiàn)數(shù)據(jù)的價(jià)值,而商業(yè)智能是在企業(yè)中實(shí)現(xiàn)數(shù)據(jù)價(jià)值的最佳方式之一。商業(yè)智能(Business Intelligence,簡(jiǎn) 稱BI)的概念最早是Gartner公司于1996年提出來(lái)的。當(dāng)時(shí)將商業(yè)智能定義為一類由數(shù)據(jù)倉(cāng)庫(kù)(或數(shù)據(jù)集市)、查詢報(bào)表、數(shù)據(jù)分析、數(shù)據(jù)挖掘、數(shù)據(jù)備份和恢復(fù)等部分組成的,以幫助企業(yè)決策為目的技術(shù)及其應(yīng)用。Gartner 公司的Howard Dressner把商業(yè)智能定義成為把數(shù)據(jù)轉(zhuǎn)化成信息,并通過(guò)迭代發(fā)現(xiàn)(Iterative Discoveries)把信息轉(zhuǎn)化成商業(yè)上可用的知識(shí)。
在我們看來(lái),商業(yè)智能就是能夠從(海量)業(yè)務(wù)和相關(guān)數(shù)據(jù)中提取有用的信息,把信息轉(zhuǎn)化成知識(shí),然后根據(jù)這些知識(shí)采用正確的商務(wù)行為的工具。在本書的范疇內(nèi),我們提到的BI(商業(yè)智能)工具都是指在數(shù)據(jù)挖掘基礎(chǔ)上的工具。
現(xiàn)在數(shù)據(jù)挖掘技術(shù)在商業(yè)應(yīng)用中已經(jīng)相當(dāng)廣泛,因?yàn)閷?duì)數(shù)據(jù)挖掘技術(shù)進(jìn)行支持的三種基礎(chǔ)技術(shù)已經(jīng)發(fā)展成熟,這三種基礎(chǔ)技術(shù)是:
商業(yè)數(shù)據(jù)庫(kù)現(xiàn)在正在以一個(gè)空前的速度增長(zhǎng),并且數(shù)據(jù)倉(cāng)庫(kù)正在廣泛地應(yīng)用于各種行業(yè)。對(duì)計(jì)算機(jī)硬件性能越來(lái)越高的要求,也可以用現(xiàn)在已經(jīng)成熟的并行多處理機(jī)的技術(shù)來(lái)滿足。另外數(shù)據(jù)挖掘算法經(jīng)過(guò)了這10多年的發(fā)展也已經(jīng)成為一種成熟、穩(wěn)定,且易于理解和操作的技術(shù)。
現(xiàn)在面臨的尷尬的境地是數(shù)據(jù)豐富,信息匱乏(Data Rich But Information Poor)??焖僭鲩L(zhǎng)的海量數(shù)據(jù),已經(jīng)遠(yuǎn)遠(yuǎn)地超過(guò)了人們的理解能力,如果不借助強(qiáng)有力的工具,很難弄清大堆數(shù)據(jù)中所蘊(yùn)含的知識(shí)。結(jié)果,重要決策只是基于制定決策者的個(gè)人經(jīng)驗(yàn),而不是基于信息豐富的數(shù)據(jù)。數(shù)據(jù)挖掘就這樣應(yīng)運(yùn)而生,數(shù)據(jù)挖掘填補(bǔ)了數(shù)據(jù)和信息之間的鴻溝。Erik Brynjolfsson曾經(jīng)說(shuō)過(guò):有數(shù)據(jù)支持的(商業(yè))決定總是更好的決定。數(shù)據(jù)在商業(yè)運(yùn)營(yíng)上要能起到作用,我們必須要做到:
在最開(kāi)始制定商業(yè)智能數(shù)據(jù)戰(zhàn)略時(shí),考慮的不應(yīng)該是技術(shù),而是從商業(yè)角度出發(fā),看到底需要完成怎樣的商業(yè)目標(biāo),再來(lái)制定數(shù)據(jù)挖掘過(guò)程。
比如在商業(yè)銀行信用卡部門,我們需要做信用卡欺詐監(jiān)測(cè)。商業(yè)目的很明確,就是要以最快的速度發(fā)現(xiàn)90%以上的欺詐交易,而可以提供的數(shù)據(jù)就是之前所有的交易記錄。那么如何判別某一個(gè)交易可能是欺詐行為呢?常用的數(shù)據(jù)挖掘方式是通過(guò)神經(jīng)網(wǎng)絡(luò)。我們通過(guò)正面和負(fù)面的實(shí)例訓(xùn)練這個(gè)神經(jīng)網(wǎng)絡(luò),然后給每個(gè)交易打分,如果低于某個(gè)數(shù)值,那么就判定這條交易是正常的,否則就判定它為欺詐交易。
商業(yè)智能還有一個(gè)重要的原因是競(jìng)爭(zhēng)?,F(xiàn)在的企業(yè)競(jìng)爭(zhēng)對(duì)象不一定來(lái)自身邊,甚至不一定來(lái)自于同一個(gè)國(guó)家,商業(yè)競(jìng)爭(zhēng)的全球化導(dǎo)致了中國(guó)企業(yè)必須提高對(duì)商業(yè)智能的重視,因?yàn)?a href='/map/shangyezhineng/' style='color:#000;font-size:inherit;'>商業(yè)智能在歐美的企業(yè)中正相當(dāng)普及。
當(dāng)我們已經(jīng)建立了一套完整的商業(yè)智能系統(tǒng)之后,可以通過(guò)看趨勢(shì)——尋扎變異——分析原因——制定對(duì)策的流程來(lái)定期做數(shù)據(jù)分析。
看趨勢(shì):即觀察關(guān)鍵考核指標(biāo)KPI數(shù)據(jù)的日、周、月、季度、年的圖表曲線趨勢(shì)。KPI數(shù)據(jù)是上升了還是下降了。關(guān)聯(lián)的其他相關(guān)KPI曲線,是否呈現(xiàn)了應(yīng)該有的關(guān)聯(lián)性。環(huán)比同比的百分比如何等。
尋找變異:即找到單一KPI數(shù)據(jù)中的異常值,或者關(guān)聯(lián)數(shù)據(jù)中非關(guān)聯(lián)的異常部分。
分析原因:當(dāng)我們找到了異常值,就需要分析造成這一異常的原因。看異常發(fā)生的時(shí)間節(jié)點(diǎn),看內(nèi)部和外部的關(guān)聯(lián)活動(dòng),看問(wèn)題發(fā)生原因的構(gòu)成,并把原因分解成獨(dú)立的元素一一列出,標(biāo)出權(quán)重,哪些是相對(duì)影響較大的,哪些又是可能的原因等。
制定對(duì)策:在正確的分析了相關(guān)原因后,就需要給出解決方法和策略。一般來(lái)說(shuō),一個(gè)原因?qū)?yīng)一個(gè)解決策略。當(dāng)然也可能有多個(gè)解決策略對(duì)應(yīng)于同一個(gè)原因。我們選擇最切合實(shí)際,最可執(zhí)行的對(duì)策和行動(dòng)策略。
數(shù)據(jù)挖掘通用流程CRISP-DM的締造者之一Tom Khabaza曾總結(jié)了在數(shù)據(jù)挖掘上的九大定律,如下所示。
(1)Business Goals Law:每個(gè)數(shù)據(jù)挖掘解決方案的根源都是有商業(yè)目的的。
(2)Business Knowledge Law:數(shù)據(jù)挖掘過(guò)程的每一步都需要以商業(yè)信息為中心。
(3)Data Preparation Law:數(shù)據(jù)挖掘過(guò)程前期的數(shù)據(jù)準(zhǔn)備工作要超過(guò)整個(gè)過(guò)程的一半。
(4)NFL Law:NFL(沒(méi)有免費(fèi)午餐,No Free Lunch)。 對(duì)于數(shù)據(jù)挖掘者來(lái)說(shuō)沒(méi)有免費(fèi)的午餐,數(shù)據(jù)挖掘的任何一個(gè)過(guò)程都是來(lái)之不易的。
(5)Watkins’ Law:此定律以此命名是因?yàn)镈avid Watkins首次提出這個(gè)概念。這個(gè)定律說(shuō)的是在數(shù)據(jù)的世界里,總是有模式可循的。您找不到規(guī)律不是因?yàn)橐?guī)律不存在,而是因?yàn)槟€沒(méi)有發(fā)現(xiàn)它。
(6)Insight Law:數(shù)據(jù)挖掘可以把商業(yè)領(lǐng)域的信息放大。
(7)Prediction Law:預(yù)測(cè)可以為我們?cè)黾有畔ⅰ?
(8)Value Law:數(shù)據(jù)挖掘模式的精準(zhǔn)和穩(wěn)定并不決定數(shù)據(jù)挖掘過(guò)程的價(jià)值,換句話說(shuō)技術(shù)手段再精妙,沒(méi)有商業(yè)意義和合適的商業(yè)應(yīng)用是沒(méi)有價(jià)值的。
(9)Law of Change:所有的模式都會(huì)變化。
上面這九條其實(shí)歸根到底就是一條,商業(yè)決定數(shù)據(jù)挖掘。數(shù)據(jù)挖掘各類技術(shù)和算法的飛速發(fā)展不能讓我們偏離以商業(yè)行為為核心的方向,只是純粹為了追求高深的技術(shù)而忽略或損害到商業(yè)目的就本末倒置了。
數(shù)據(jù)挖掘的世界既是地雷陣,同時(shí)又是金礦。大量的數(shù)據(jù)沒(méi)能被及時(shí)處理,稱得上是暴殄天物。雖然通過(guò)保存相關(guān)數(shù)據(jù),我們可以保證以后對(duì)數(shù)據(jù)信息的方便使用,但是對(duì)于工作量日趨繁
重的數(shù)據(jù)保存工作,很多企業(yè)可能還是選擇荒廢部分?jǐn)?shù)據(jù)。大數(shù)據(jù)時(shí)代已經(jīng)來(lái)臨,不管有多大困難,我們從現(xiàn)在開(kāi)始都需要考慮評(píng)估和集成數(shù)據(jù)挖掘應(yīng)用。即使不能找到合適的數(shù)據(jù)挖掘方法來(lái)處理數(shù)據(jù),至少我們需要用數(shù)據(jù)倉(cāng)庫(kù)把原始數(shù)據(jù)保留起來(lái),以供將來(lái)使用。
下面列舉一些我們?cè)诮o企業(yè)做數(shù)據(jù)挖掘時(shí)看到的問(wèn)題:
對(duì)于數(shù)據(jù)挖掘需要解決的問(wèn)題,很少有現(xiàn)成的解決方案,而且于某個(gè)問(wèn)題,可能有多種數(shù)據(jù)挖掘算法可以使用,但通常只有一個(gè)最好的算法。當(dāng)我們選擇了一個(gè)數(shù)據(jù)挖掘算法時(shí),首先要弄清楚它是否適合想解決的問(wèn)題。如果本身方法選擇不合適,那么再好的執(zhí)行也沒(méi)有用。
從市場(chǎng)角度來(lái)看,數(shù)據(jù)挖掘依舊面臨其他因素的挑戰(zhàn)。數(shù)據(jù)挖掘非常有前景,但是市場(chǎng)中數(shù)據(jù)噪聲太多,會(huì)導(dǎo)致數(shù)據(jù)價(jià)值大大降低。以無(wú)線營(yíng)銷為例,大量的虛假應(yīng)用下載和使用以及虛假好評(píng)差評(píng)等數(shù)據(jù)嚴(yán)重干擾了數(shù)據(jù)的準(zhǔn)確性,大大降低了數(shù)據(jù)的價(jià)值。
在中國(guó),數(shù)據(jù)挖掘市場(chǎng)整體來(lái)說(shuō)還不成熟。首先在意識(shí)上,一些商業(yè)領(lǐng)袖們對(duì)數(shù)據(jù)挖掘將信將疑,不愿意做投入;另一方面,采用了數(shù)據(jù)挖掘的公司只追求最后的結(jié)果,而對(duì)數(shù)據(jù)挖掘過(guò)程、數(shù)據(jù)的存儲(chǔ)、數(shù)據(jù)挖掘結(jié)果的知識(shí)積累和呈現(xiàn)不重視。
數(shù)據(jù)挖掘有時(shí)導(dǎo)出的結(jié)果是不完善的,每次導(dǎo)出的結(jié)果和應(yīng)用的數(shù)據(jù)集直接相關(guān)。如果數(shù)據(jù)集發(fā)生變化,就需要重新進(jìn)行挖掘。如果沒(méi)有考慮數(shù)據(jù)變化而盲目采用數(shù)據(jù)變化之前的策略,那么結(jié)果是不可預(yù)料的。
這些問(wèn)題都是確實(shí)存在的,其中關(guān)于市場(chǎng)的問(wèn)題在一定時(shí)間之后會(huì)有好轉(zhuǎn),而數(shù)據(jù)挖掘過(guò)程中的這些問(wèn)題就需要數(shù)據(jù)分析師和數(shù)據(jù)應(yīng)用使用者提高自己的經(jīng)驗(yàn)來(lái)解決了。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03