數(shù)據(jù)挖掘的常用方法、功能和一個聚類分析應(yīng)用案例

一、數(shù)據(jù)挖掘的常用方法

利用數(shù)據(jù)挖掘進行數(shù)據(jù)分析常用的方法主要有分類、回歸分析、聚類、關(guān)聯(lián)規(guī)則、特征、變化和偏差分析、Web頁挖掘等，它們分別從不同的角度對數(shù)據(jù)進行挖掘。

分類。分類是找出數(shù)據(jù)庫中一組數(shù)據(jù)對象的共同特點并按照分類模式將其劃分為不同的類，其目的是通過分類模型，將數(shù)據(jù)庫中的數(shù)據(jù)項映射到某個給定的類別。它可以應(yīng)用到客戶的分類、客戶的屬性和特征分析、客戶滿意度分析、客戶的購買趨勢預(yù)測等，如一個汽車零售商將客戶按照對汽車的喜好劃分成不同的類，這樣營銷人員就可以將新型汽車的廣告手冊直接郵寄到有這種喜好的客戶手中，從而大大增加了商業(yè)機會。

回歸分析。回歸分析方法反映的是事務(wù)數(shù)據(jù)庫中屬性值在時間上的特征，產(chǎn)生一個將數(shù)據(jù)項映射到一個實值預(yù)測變量的函數(shù)，發(fā)現(xiàn)變量或?qū)傩蚤g的依賴關(guān)系，其主要研究問題包括數(shù)據(jù)序列的趨勢特征、數(shù)據(jù)序列的預(yù)測以及數(shù)據(jù)間的相關(guān)關(guān)系等。它可以應(yīng)用到市場營銷的各個方面，如客戶尋求、保持和預(yù)防客戶流失活動、產(chǎn)品生命周期分析、銷售趨勢預(yù)測及有針對性的促銷活動等。

聚類。聚類分析是把一組數(shù)據(jù)按照相似性和差異性分為幾個類別，其目的是使得屬于同一類別的數(shù)據(jù)間的相似性盡可能大，不同類別中的數(shù)據(jù)間的相似性盡可能小。它可以應(yīng)用到客戶群體的分類、客戶背景分析、客戶購買趨勢預(yù)測、市場的細分等。

關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則是描述數(shù)據(jù)庫中數(shù)據(jù)項之間所存在的關(guān)系的規(guī)則，即根據(jù)一個事務(wù)中某些項的出現(xiàn)可導(dǎo)出另一些項在同一事務(wù)中也出現(xiàn)，即隱藏在數(shù)據(jù)間的關(guān)聯(lián)或相互關(guān)系。在客戶關(guān)系管理中，通過對企業(yè)的客戶數(shù)據(jù)庫里的大量數(shù)據(jù)進行挖掘，可以從大量的記錄中發(fā)現(xiàn)有趣的關(guān)聯(lián)關(guān)系，找出影響市場營銷效果的關(guān)鍵因素，為產(chǎn)品定位、定價與定制客戶群，客戶尋求、細分與保持，市場營銷與推銷，營銷風(fēng)險評估和詐騙預(yù)測等決策支持提供參考依據(jù)。

特征。特征分析是從數(shù)據(jù)庫中的一組數(shù)據(jù)中提取出關(guān)于這些數(shù)據(jù)的特征式，這些特征式表達了該數(shù)據(jù)集的總體特征。如營銷人員通過對客戶流失因素的特征提取，可以得到導(dǎo)致客戶流失的一系列原因和主要特征，利用這些特征可以有效地預(yù)防客戶的流失。

變化和偏差分析。偏差包括很大一類潛在有趣的知識，如分類中的反常實例，模式的例外，觀察結(jié)果對期望的偏差等，其目的是尋找觀察結(jié)果與參照量之間有意義的差別。在企業(yè)危機管理及其預(yù)警中，管理者更感興趣的是那些意外規(guī)則。意外規(guī)則的挖掘可以應(yīng)用到各種異常信息的發(fā)現(xiàn)、分析、識別、評價和預(yù)警等方面。

Web頁挖掘。隨著Internet的迅速發(fā)展及Web 的全球普及， 使得Web上的信息量無比豐富，通過對Web的挖掘，可以利用Web 的海量數(shù)據(jù)進行分析，收集政治、經(jīng)濟、政策、科技、金融、各種市場、競爭對手、供求信息、客戶等有關(guān)的信息，集中精力分析和處理那些對企業(yè)有重大或潛在重大影響的外部環(huán)境信息和內(nèi)部經(jīng)營信息，并根據(jù)分析結(jié)果找出企業(yè)管理過程中出現(xiàn)的各種問題和可能引起危機的先兆，對這些信息進行分析和處理，以便識別、分析、評價和管理危機。

二、數(shù)據(jù)挖掘的功能

數(shù)據(jù)挖掘通過預(yù)測未來趨勢及行為，做出前攝的、基于知識的決策。數(shù)據(jù)挖掘的目標(biāo)是從數(shù)據(jù)庫中發(fā)現(xiàn)隱含的、有意義的知識，主要有以下五類功能。

自動預(yù)測趨勢和行為：數(shù)據(jù)挖掘自動在大型數(shù)據(jù)庫中尋找預(yù)測性信息，以往需要進行大量手工分析的問題如今可以迅速直接由數(shù)據(jù)本身得出結(jié)論。一個典型的例子是市場預(yù)測問題，數(shù)據(jù)挖掘使用過去有關(guān)促銷的數(shù)據(jù)來尋找未來投資中回報最大的用戶，其它可預(yù)測的問題包括預(yù)報破產(chǎn)以及認定對指定事件最可能做出反應(yīng)的群體。

關(guān)聯(lián)分析：數(shù)據(jù)關(guān)聯(lián)是數(shù)據(jù)庫中存在的一類重要的可被發(fā)現(xiàn)的知識。若兩個或多個變量的取值之間存在某種規(guī)律性，就稱為關(guān)聯(lián)。關(guān)聯(lián)可分為簡單關(guān)聯(lián)、時序關(guān)聯(lián)、因果關(guān)聯(lián)。關(guān)聯(lián)分析的目的是找出數(shù)據(jù)庫中隱藏的關(guān)聯(lián)網(wǎng)。有時并不知道數(shù)據(jù)庫中數(shù)據(jù)的關(guān)聯(lián)函數(shù)，即使知道也是不確定的，因此關(guān)聯(lián)分析生成的規(guī)則帶有可信度。

聚類：數(shù)據(jù)庫中的記錄可被化分為一系列有意義的子集，即聚類。聚類增強了人們對客觀現(xiàn)實的認識，是概念描述和偏差分析的先決條件。聚類技術(shù)主要包括傳統(tǒng)的模式識別方法和數(shù)學(xué)分類學(xué)。80年代初，Michalski提出了概念聚類技術(shù)，其要點是，在劃分對象時不僅考慮對象之間的距離，還要求劃分出的類具有某種內(nèi)涵描述，從而避免了傳統(tǒng)技術(shù)的某些片面性。

概念描述：概念描述就是對某類對象的內(nèi)涵進行描述，并概括這類對象的有關(guān)特征。概念描述分為特征性描述和區(qū)別性描述，前者描述某類對象的共同特征，后者描述不同類對象之間的區(qū)別。生成一個類的特征性描述只涉及該類對象中所有對象的共性。生成區(qū)別性描述的方法很多，如決策樹方法、遺傳算法等。

偏差檢測：數(shù)據(jù)庫中的數(shù)據(jù)常有一些異常記錄，從數(shù)據(jù)庫中檢測這些偏差很有意義。偏差包括很多潛在的知識，如分類中的反常實例、不滿足規(guī)則的特例、觀測結(jié)果與模型預(yù)測值的偏差、量值隨時間的變化等。偏差檢測的基本方法是，尋找觀測結(jié)果與參照值之間有意義的差別。

三、數(shù)據(jù)挖掘實例：聚類分析應(yīng)用——市場細分

聚類是將數(shù)據(jù)分類到不同的類或者簇這樣的一個過程，所以同一個簇中的對象有很大的相似性，而不同簇間的對象有很大的相異性。

從統(tǒng)計學(xué)的觀點看，聚類分析是通過數(shù)據(jù)建模簡化數(shù)據(jù)的一種方法。傳統(tǒng)的統(tǒng)計聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。

從機器學(xué)習(xí)的角度講，簇相當(dāng)于隱藏模式。聚類是搜索簇的無監(jiān)督學(xué)習(xí)過程。與分類不同，無監(jiān)督學(xué)習(xí)不依賴預(yù)先定義的類或帶類標(biāo)記的訓(xùn)練實例，需要由聚類學(xué)習(xí)算法自動確定標(biāo)記，而分類學(xué)習(xí)的實例或數(shù)據(jù)對象有類別標(biāo)記。聚類是觀察式學(xué)習(xí)，而不是示例式的學(xué)習(xí)。

從實際應(yīng)用的角度看，聚類分析是數(shù)據(jù)挖掘的主要任務(wù)之一。而且聚類能夠作為一個獨立的工具獲得數(shù)據(jù)的分布狀況，觀察每一簇數(shù)據(jù)的特征，集中對特定的聚簇集合作進一步地分析。聚類分析還可以作為其他算法(如分類和定性歸納算法)的預(yù)處理步驟。

聚類分析的核心思想就是物以類聚，人以群分。在市場細分領(lǐng)域，消費同一種類的商品或服務(wù)時，不同的客戶有不同的消費特點，通過研究這些特點，企業(yè)可以制定出不同的營銷組合，從而獲取最大的消費者剩余，這就是客戶細分的主要目的。在銷售片區(qū)劃分中，只有合理地將企業(yè)所擁有的子市場歸成幾個大的片區(qū)，才能有效地制定符合片區(qū)特點的市場營銷戰(zhàn)略和策略。金融領(lǐng)域，對基金或者股票進行分類，以選擇分類投資風(fēng)險。

下面以一個汽車銷售的案例來介紹聚類分析在市場細分中的應(yīng)用。

商業(yè)目標(biāo)

業(yè)務(wù)理解：數(shù)據(jù)名稱《汽車銷售.csv》。該案例所用的數(shù)據(jù)是一份關(guān)于汽車的數(shù)據(jù)，該數(shù)據(jù)文件包含銷售值、訂價以及各種品牌和型號的車輛的物理規(guī)格。訂價和物理規(guī)格可以從 edmunds.com 和制造商處獲得。定價為美國本土售價。如下：

表1：數(shù)據(jù)視圖

業(yè)務(wù)目標(biāo)：對市場進行準(zhǔn)確定位，為汽車的設(shè)計和市場份額預(yù)測提供參考。

數(shù)據(jù)挖掘目標(biāo)：通過聚類的方式對現(xiàn)有的車型進行分類。

數(shù)據(jù)準(zhǔn)備

通過數(shù)據(jù)探索對數(shù)據(jù)的質(zhì)量和字段的分布進行了解，并排除有問題的行或者列優(yōu)化數(shù)據(jù)質(zhì)量。

第一步，我們使用統(tǒng)計節(jié)點審核數(shù)據(jù)的質(zhì)量，從審核結(jié)果中我們發(fā)現(xiàn)存在缺失的數(shù)據(jù)，如下圖所示：

第二步，對缺失的數(shù)據(jù)進行處理，我們選擇使用缺失填充節(jié)點刪除這些記錄。配置如下：

建模

我們選擇層次聚類進行分析，嘗試根據(jù)各種汽車的銷售量、價格、引擎、馬力、軸距、車寬、車長、制動、排量、油耗等指標(biāo)對其分類。

因為層次聚類不能自動確定分類數(shù)量，因此需要我們以自定義的方式規(guī)定最后聚類的類別數(shù)。層次聚類節(jié)點配置如下(默認配置)：

可以使用交互表或者右擊層次聚類節(jié)點查看聚類的結(jié)果，如下圖所示：

再使用餅圖查看每個類的大小，結(jié)果如下：

從圖中可見，分成的三個類樣本數(shù)差異太大，cluster_0和cluster_1包含的樣本數(shù)都只有1，這樣的分類是沒有意義的，因此需要重新分類。我們嘗試在層次聚類節(jié)點的配置中指定新的聚類方法：完全。新的聚類樣本數(shù)分布如下：

cluster_0、 cluster_1、cluster_2的樣本數(shù)分別為：50、9、93。

執(zhí)行后輸出樹狀/冰柱圖，可以從上往下看，一開始是一大類，往下走就分成了兩類，越往下分的類越多，最后細分到每一個記錄是一類，如下所示：

我們可以再使用條形圖查看每類的銷售量、平均價格，如下圖所示：

每類總銷量分布圖

每類平均銷量分布圖

每類平均價格分布圖

我們再看一下每類的銷售額分布情況。首先，我們需要使用Java代碼段節(jié)點或者派生節(jié)點生成銷售額字段，配置如下：

再使用餅圖查看銷售額分布情況，cluster_0、 cluster_1、cluster_2的市場份額分別為：32.39%、0.53%和67.08%，如下圖所示：

案例小結(jié)

通過這個案例，大家可以發(fā)現(xiàn)聚類分析確實很簡單。進行聚類計算后，主要通過圖形化探索的方式評估聚類合理性，以及在確定聚類后，分析每類的特征。

個人體會

這是筆者第一次按照AOSP-SM方法來進行數(shù)據(jù)挖掘，雖然更多的對教程進行了理論上的分析和體會，但是通過自己部分的操作感受到了Smart Mining軟件的人性化和功能強大。聚類與分類的不同之處在于，聚類所要求劃分的類是未知的。簡易的聚類分析是一種相對簡單而有十分實用的方法，如果使用得當(dāng)，將會在市場細分、媒體分級和異常診斷等多個問題中發(fā)揮巨大的作用。

四、小結(jié)

通過今天的學(xué)習(xí)分享，我們對數(shù)據(jù)挖掘有了進一步的認識，并嘗試進行了第一次實際操作。雖然對于數(shù)據(jù)挖掘的了解仍然處于一個比較低級的層次，但筆者相信，通過不斷地努力與探索，我們可以越來越深入的感受到數(shù)據(jù)挖掘的魅力。