在R中使用支持向量機(jī)（SVM）進(jìn)行數(shù)據(jù)挖掘（上）

在R中，可以使用e1071軟件包所提供的各種函數(shù)來完成基于支持向量機(jī)的數(shù)據(jù)分析與挖掘任務(wù)。請?jiān)谑褂孟嚓P(guān)函數(shù)之前，安裝并正確引用e1071包。該包中最重要的一個(gè)函數(shù)就是用來建立支持向量機(jī)模型的svm()函數(shù)。我們將結(jié)合后面的例子來演示它的用法。
下面這個(gè)例子中的數(shù)據(jù)源于1936年費(fèi)希爾發(fā)表的一篇重要論文。彼時(shí)他收集了三種鳶尾花（分別標(biāo)記為setosa、versicolor和virginica）的花萼和花瓣數(shù)據(jù)。包括花萼的長度和寬度，以及花瓣的長度和寬度。我們將根據(jù)這四個(gè)特征來建立支持向量機(jī)模型從而實(shí)現(xiàn)對三種鳶尾花的分類判別任務(wù)。
有關(guān)數(shù)據(jù)可以從datasets軟件包中的iris數(shù)據(jù)集里獲取，下面我們演示性地列出了前5行數(shù)據(jù)。成功載入數(shù)據(jù)后，易見其中共包含了150個(gè)樣本（被標(biāo)記為setosa、versicolor和virginica的樣本各50個(gè)），以及四個(gè)樣本特征，分別是Sepal.Length、Sepal.Width、Petal.Length和Petal.Width。

在正式建模之前，我們也可以通過一個(gè)圖型來初步判定一下數(shù)據(jù)的分布情況，為此在R中使用如下代碼來繪制（僅選擇Petal.Length和Petal.Width這兩個(gè)特征時(shí)）數(shù)據(jù)的劃分情況。
[plain] view plain copy
> library(lattice)  
> xyplot(Petal.Length ~ Petal.Width, data = iris, groups = Species,  
+ auto.key=list(corner=c(1,0))) 
上述代碼的執(zhí)行結(jié)果如圖14-13所示，從中不難發(fā)現(xiàn)，標(biāo)記為setosa的鳶尾花可以很容易地被劃分出來。但僅使用Petal.Length和Petal.Width這兩個(gè)特征時(shí)，versicolor和virginica之間尚不是線性可分的。

函數(shù)svm()在建立支持向量機(jī)分類模型時(shí)有兩種方式。第一種是根據(jù)既定公式建立模型，此時(shí)的函數(shù)使用格式為
[plain] view plain copy
svm(formula, data= NULL, subset, na.action = na.omit , scale= TRUE) 
其中，formula代表的是函數(shù)模型的形式，data代表的是在模型中包含的有變量的一組可選格式數(shù)據(jù)。參數(shù)na.action用于指定當(dāng)樣本數(shù)據(jù)中存在無效的空數(shù)據(jù)時(shí)系統(tǒng)應(yīng)該進(jìn)行的處理。默認(rèn)值na.omit表明程序會忽略那些數(shù)據(jù)缺失的樣本。另外一個(gè)可選的賦值是na.fail，它指示系統(tǒng)在遇到空數(shù)據(jù)時(shí)給出一條錯(cuò)誤信息。參數(shù)scale為一個(gè)邏輯向量，指定特征數(shù)據(jù)是否需要標(biāo)準(zhǔn)化（默認(rèn)標(biāo)準(zhǔn)化為均值0，方差1）。索引向量subset用于指定那些將被來訓(xùn)練模型的采樣數(shù)據(jù)。
例如，我們已經(jīng)知道，僅使用Petal.Length和Petal.Width這兩個(gè)特征時(shí)標(biāo)記為setosa和的鳶尾花versicolor是線性可分的，所以可以用下面的代碼來構(gòu)建SVM模型。

然后我們可以使用下面的代碼來對模型進(jìn)行圖形化展示，其執(zhí)行結(jié)果如圖14-14所示。
[plain] view plain copy
> plot(model1, subdata, Petal.Length ~ Petal.Width)  

在使用第一種格式建立模型時(shí)，若使用數(shù)據(jù)中的全部特征變量作為模型特征變量時(shí)，可以簡要地使用“Species~．”中的“．”代替全部的特征變量。例如下面的代碼就利用了全部四種特征來對三種鳶尾花進(jìn)行分類。
[plain] view plain copy
> model2 <- svm(Species ~ ., data = iris)  
若要顯示模型的構(gòu)建情況，使用summary()函數(shù)是一個(gè)不錯(cuò)的選擇。來看下面這段示例代碼及其輸出結(jié)果。

通過summary函數(shù)可以得到關(guān)于模型的相關(guān)信息。其中，SVM-Type項(xiàng)目說明本模型的類別為C分類器模型；SVM-Kernel項(xiàng)目說明本模型所使用的核函數(shù)為高斯內(nèi)積函數(shù)且核函數(shù)中參數(shù)gamma的取值為0.25；cost項(xiàng)目說明本模型確定的約束違反成本為l。而且我們還可以看到，模型找到了51個(gè)支持向量：第一類包含有8個(gè)支持向量，第二類包含有22個(gè)支持向量，第三類包含21個(gè)支持向量。最后一行說明模型中的三個(gè)類別分別為setosa、versicolor和virginica。數(shù)據(jù)分析師培訓(xùn)