數(shù)據(jù)挖掘中的分類和聚類

分類(classification )：有指導(dǎo)的類別劃分，在若干先驗標準的指導(dǎo)下進行，效果好壞取決于標準選取的好壞。

它找出描述并區(qū)分數(shù)據(jù)類或概念的模型(或函數(shù))，以便能夠使用模型預(yù)測類標記未知的對象類。分類分析在數(shù)據(jù)挖掘中是一項比較重要的任務(wù), 目前在商業(yè)上應(yīng)用最多。分類的目的是學(xué)會一個分類函數(shù)或分類模型(也常常稱作分類器),該模型能把數(shù)據(jù)庫中的數(shù)據(jù)項映射到給定類別中的某一個類中。分類和回歸都可用于預(yù)測，兩者的目的都是從歷史數(shù)據(jù)紀錄中自動推導(dǎo)出對給定數(shù)據(jù)的推廣描述，從而能對未來數(shù)據(jù)進行預(yù)測。與回歸不同的是，分類的輸出是離散的類別值，而回歸的輸出是連續(xù)數(shù)值。二者常表現(xiàn)為決策樹的形式，根據(jù)數(shù)據(jù)值從樹根開始搜索，沿著數(shù)據(jù)滿足的分支往上走，走到樹葉就能確定類別。

要構(gòu)造分類器，需要有一個訓(xùn)練樣本數(shù)據(jù)集作為輸入。訓(xùn)練集由一組數(shù)據(jù)庫記錄或元組構(gòu)成，每個元組是一個由有關(guān)字段(又稱屬性或特征)值組成的特征向量，此外，訓(xùn)練樣本還有一個類別標記。一個具體樣本的形式可表示為：（v1,v2,...,vn; c)；其中vi表示字段值，c表示類別。分類器的構(gòu)造方法有統(tǒng)計方法、機器學(xué)習方法、神經(jīng)網(wǎng)絡(luò)方法等等。不同的分類器有不同的特點。有三種分類器評價或比較尺度：1)預(yù)測準確度；2)計算復(fù)雜度；3)模型描述的簡潔度。預(yù)測準確度是用得最多的一種比較尺度，特別是對于預(yù)測型分類任務(wù)。計算復(fù)雜度依賴于具體的實現(xiàn)細節(jié)和硬件環(huán)境，在數(shù)據(jù)挖掘中，由于操作對象是巨量的數(shù)據(jù)，因此空間和時間的復(fù)雜度問題將是非常重要的一個環(huán)節(jié)。對于描述型的分類任務(wù)，模型描述越簡潔越受歡迎。另外要注意的是，分類的效果一般和數(shù)據(jù)的特點有關(guān)，有的數(shù)據(jù)噪聲大，有的有空缺值，有的分布稀疏，有的字段或?qū)傩蚤g相關(guān)性強，有的屬性是離散的而有的是連續(xù)值或混合式的。目前普遍認為不存在某種方法能適合于各種特點的數(shù)據(jù)。

聚類(clustering)：沒有先驗標準，完全依靠事先的聚類原則（距離，近鄰等），進行類別劃分，效果好壞取決于聚類原則的選取。

是指根據(jù)“物以類聚”的原理，將本身沒有類別的樣本聚集成不同的組，這樣的一組數(shù)據(jù)對象的集合叫做簇，并且對每一個這樣的簇進行描述的過程。它的目的是使得屬于同一個簇的樣本之間應(yīng)該彼此相似，而不同簇的樣本應(yīng)該足夠不相似。與分類規(guī)則不同，進行聚類前并不知道將要劃分成幾個組和什么樣的組，也不知道根據(jù)哪些空間區(qū)分規(guī)則來定義組。其目的旨在發(fā)現(xiàn)空間實體的屬性間的函數(shù)關(guān)系，挖掘的知識用以屬性名為變量的數(shù)學(xué)方程來表示。當前，聚類技術(shù)正在蓬勃發(fā)展，涉及范圍包括數(shù)據(jù)挖掘、統(tǒng)計學(xué)、機器學(xué)習、空間數(shù)據(jù)庫技術(shù)、生物學(xué)以及市場營銷等領(lǐng)域，聚類分析已經(jīng)成為數(shù)據(jù)挖掘研究領(lǐng)域中一個非?；钴S的研究課題。常見的聚類算法包括：K-均值聚類算法、K-中心點聚類算法、CLARANS、BIRCH、CLIQUE、DBSCAN等。
       通常，為有監(jiān)督分類提供若干已標記的模式(預(yù)分類過)，需要解決的問題是為一個新遇到的但無標記的模式進行標記。在典型的情況下，先將給定的無標記的模式用來學(xué)習〔訓(xùn)練)，反過來再用來標記一個新模式。聚類需要解決的問題是將已給定的若千無標記的模式聚集起來使之成為有意義的聚類。從某種意義上說，標記也與聚類相關(guān)，但這些類型的標記是由數(shù)據(jù)驅(qū)動的，也就是說，只是從數(shù)據(jù)中得到這些標記。聚類與數(shù)據(jù)挖掘中的分類不同，在分類模塊中，對于目標數(shù)據(jù)庫中存在哪些類是知道的，要做的就是將每一條記錄分別屬于哪一類標記出來:與此相似但又不同的是，聚類是在預(yù)先不知道目標數(shù)據(jù)庫到底有多少類的情況下，希望將所有的記錄組成不同的類或者說“聚類”，并且使得在這種分類情況下，以某種度量為標準的相似性，在同一聚類之間最小化，而在不同聚類之間最大化。事實上，聚類算法中很多算法的相似性都是基于距離的，而且由于現(xiàn)實數(shù)據(jù)庫中數(shù)據(jù)類型的多樣性，關(guān)于如何度量兩個含有非數(shù)值型字段的記錄之間的距離的討論有很多，并提出了相應(yīng)的算法。在很多應(yīng)用中，聚類分析得到的每一個類中的成員都可以被統(tǒng)一看待。