機(jī)器學(xué)習(xí)中的非均衡分類問題

非均衡分類問題是指在分類器訓(xùn)練時，正例數(shù)目和反例數(shù)目不相等（相差很大），或者錯分正反例導(dǎo)致的代價(jià)不同（可從代價(jià)矩陣觀測）時存在的問題。

而大多數(shù)情況下，不同類別的分類代價(jià)并不相等，而諸如信用卡欺詐等場景中，正反例的樣本數(shù)目相差巨大，這就需要一些新的分類器性能度量方法和技術(shù)，來處理上述非均衡問題。

1、分類器性能度量指標(biāo)

分類器學(xué)習(xí)常用的錯誤率指標(biāo)會掩蓋樣例如何被錯分的細(xì)節(jié)，可以采用更好的性能度量指標(biāo)1 ——正確率TP/(TP+FP)和召回率TP/(TP+FN)。

實(shí)際上，單獨(dú)滿足其中一個指標(biāo)高性能較容易，但構(gòu)造一個同時高正確率有高召回率的分類器很難。至于具體選擇正確率還是召回率，關(guān)鍵在于場景或者說研究問題，例如在購物刷單問題中，正確率遠(yuǎn)比召回率更重要。

此外可以采用性能度量指標(biāo)2 ——ROC曲線，即接收者操作特征曲線。

ROC曲線給出的是當(dāng)閾值變化時，假陽率和真陽率之間的變化情況。因此，我們可以通過觀察ROC曲線來調(diào)節(jié)分類器的閾值，使得分類器的性能最好處于ROC曲線的左上角。由ROC曲線衍生的AUC（曲線下的面積）指標(biāo)給出了分類器的平均性能值。

def plotROC(predStrengths, classLabels):  
        import matplotlib.pyplot as plt  
        cur = (1.0,1.0) # current plot node  
        ySum = 0.0 # for AUC  
        numPosClas = sum(numpy.array(classLabels)==1.0)  
        numNegClas = len(classLabels) - numPosClas  
        yStep = 1/float(numPosClas)  
        xStep = 1/float(numNegClas)  
        sortedIndicies = predStrengths.argsort()  
        fig = plt.figure()  
        fig.clf()  
        ax = plt.subplot(111)  
        for index in sortedIndicies.tolist()[0]:  
            if classLabels[index] == 1.0:  
                delX = 0; delY = yStep;  
            else:  
                delX = xStep; delY = 0;  
                ySum += cur[1]  
            ax.plot([cur[0],cur[0]-delX],[cur[1],cur[1]-delY], c='b')  
            cur = (cur[0]-delX,cur[1]-delY)  
        ax.plot([0,1],[0,1],'b--')  
        plt.xlabel('False positive rate'); plt.ylabel('True positive rate')  
        plt.title('ROC curve for AdaBoost horse colic detection system')  
        ax.axis([0,1,0,1])  
        plt.show()  
        print "the Area Under the Curve is: ",ySum*xStep

2、基于代價(jià)敏感的學(xué)習(xí)方法

一方面，重構(gòu)訓(xùn)練數(shù)據(jù)集。即不改變已有算法，而是根據(jù)樣本的不同錯分代價(jià)給訓(xùn)練集中的每一個樣本賦一個權(quán)值，接著按權(quán)重對原始樣本集進(jìn)行重構(gòu)。

另一方面，引入代價(jià)敏感因子，設(shè)計(jì)出代價(jià)敏感的分類算法。通?？梢詫⒏鞣诸惼鲗W(xué)習(xí)時的目標(biāo)函數(shù)改造成最小化代價(jià)函數(shù)，即對小樣本賦予較高的代價(jià)，大樣本賦予較小的代價(jià)，期望以此來平衡樣本之間的數(shù)目差異。

3、改造分類器的訓(xùn)練數(shù)據(jù) —— 過抽樣或者欠抽樣

過抽樣，即保留樣本數(shù)目小的類別的所有樣本同時，再進(jìn)行復(fù)制或者進(jìn)行插值，擴(kuò)大規(guī)模。注意對小樣本數(shù)目的類別的樣本們進(jìn)行插值有可能造成過擬合。

欠抽樣，即欠抽樣或者剔除樣本數(shù)目大的類別中的部分樣本，縮小規(guī)模。進(jìn)行剔除時，盡量選擇那些離決策邊界較遠(yuǎn)的樣例。