數(shù)據(jù)挖掘常用的方法

在大數(shù)據(jù)時代，數(shù)據(jù)挖掘是最關鍵的工作。大數(shù)據(jù)的挖掘是從海量、不完全的、有噪聲的、模糊的、隨機的大型數(shù)據(jù)庫中發(fā)現(xiàn)隱含在其中有價值的、潛在有用的信息和知識的過程，也是一種決策支持過程。其主要基于人工智能，機器學習，模式學習，統(tǒng)計學等。通過對大數(shù)據(jù)高度自動化地分析，做出歸納性的推理，從中挖掘出潛在的模式，可以幫助企業(yè)、商家、用戶調整市場政策、減少風險、理性面對市場，并做出正確的決策。目前，在很多領域尤其是在商業(yè)領域如銀行、電信、電商等，數(shù)據(jù)挖掘可以解決很多問題，包括市場營銷策略制定、背景分析、企業(yè)管理危機等。大數(shù)據(jù)的挖掘常用的方法有分類、回歸分析、聚類、關聯(lián)規(guī)則、神經(jīng)網(wǎng)絡方法、Web數(shù)據(jù)挖掘等。這些方法從不同的角度對數(shù)據(jù)進行挖掘。
    （1）分類。分類是找出數(shù)據(jù)庫中的一組數(shù)據(jù)對象的共同特點并按照分類模式將其劃分為不同的類，其目的是通過分類模型，將數(shù)據(jù)庫中的數(shù)據(jù)項映射到摸個給定的類別中?？梢詰玫缴婕暗綉梅诸悺②厔蓊A測中，如淘寶商鋪將用戶在一段時間內的購買情況劃分成不同的類，根據(jù)情況向用戶推薦關聯(lián)類的商品，從而增加商鋪的銷售量。
    （2）回歸分析。回歸分析反映了數(shù)據(jù)庫中數(shù)據(jù)的屬性值的特性，通過函數(shù)表達數(shù)據(jù)映射的關系來發(fā)現(xiàn)屬性值之間的依賴關系。它可以應用到對數(shù)據(jù)序列的預測及相關關系的研究中去。在市場營銷中，回歸分析可以被應用到各個方面。如通過對本季度銷售的回歸分析，對下一季度的銷售趨勢作出預測并做出針對性的營銷改變。
    （3）聚類。聚類類似于分類，但與分類的目的不同，是針對數(shù)據(jù)的相似性和差異性將一組數(shù)據(jù)分為幾個類別。屬于同一類別的數(shù)據(jù)間的相似性很大，但不同類別之間數(shù)據(jù)的相似性很小，跨類的數(shù)據(jù)關聯(lián)性很低。
    （4）關聯(lián)規(guī)則。關聯(lián)規(guī)則是隱藏在數(shù)據(jù)項之間的關聯(lián)或相互關系，即可以根據(jù)一個數(shù)據(jù)項的出現(xiàn)推導出其他數(shù)據(jù)項的出現(xiàn)。關聯(lián)規(guī)則的挖掘過程主要包括兩個階段：第一階段為從海量原始數(shù)據(jù)中找出所有的高頻項目組；第二極端為從這些高頻項目組產(chǎn)生關聯(lián)規(guī)則。關聯(lián)規(guī)則挖掘技術已經(jīng)被廣泛應用于金融行業(yè)企業(yè)中用以預測客戶的需求，各銀行在自己的ATM 機上通過捆綁客戶可能感興趣的信息供用戶了解并獲取相應信息來改善自身的營銷。
    （5）神經(jīng)網(wǎng)絡方法。神經(jīng)網(wǎng)絡作為一種先進的人工智能技術，因其自身自行處理、分布存儲和高度容錯等特性非常適合處理非線性的以及那些以模糊、不完整、不嚴密的知識或數(shù)據(jù)為特征的處理問題，它的這一特點十分適合解決數(shù)據(jù)挖掘的問題。典型的神經(jīng)網(wǎng)絡模型主要分為三大類：第一類是以用于分類預測和模式識別的前饋式神經(jīng)網(wǎng)絡模型，其主要代表為函數(shù)型網(wǎng)絡、感知機；第二類是用于聯(lián)想記憶和優(yōu)化算法的反饋式神經(jīng)網(wǎng)絡模型，以Hopfield 的離散模型和連續(xù)模型為代表。第三類是用于聚類的自組織映射方法，以ART 模型為代表。雖然神經(jīng)網(wǎng)絡有多種模型及算法，但在特定領域的數(shù)據(jù)挖掘中使用何種模型及算法并沒有統(tǒng)一的規(guī)則，而且人們很難理解網(wǎng)絡的學習及決策過程。
    （6）Web數(shù)據(jù)挖掘。Web數(shù)據(jù)挖掘是一項綜合性技術，指Web 從文檔結構和使用的集合C 中發(fā)現(xiàn)隱含的模式P，如果將C看做是輸入，P 看做是輸出，那么Web 挖掘過程就可以看做是從輸入到輸出的一個映射過程。
    當前越來越多的Web 數(shù)據(jù)都是以數(shù)據(jù)流的形式出現(xiàn)的，因此對Web 數(shù)據(jù)流挖掘就具有很重要的意義。目前常用的Web數(shù)據(jù)挖掘算法有：PageRank算法，HITS算法以及LOGSOM 算法。這三種算法提到的用戶都是籠統(tǒng)的用戶，并沒有區(qū)分用戶的個體。目前Web數(shù)據(jù)挖掘面臨著一些問題，包括：用戶的分類問題、網(wǎng)站內容時效性問題，用戶在頁面停留時間問題，頁面的鏈入與鏈出數(shù)問題等。在Web 技術高速發(fā)展的今天，這些問題仍舊值得研究并加以解決。