99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話:13121318867

登錄
首頁大數(shù)據(jù)時代樸素貝葉斯算法的優(yōu)缺點是什么?如何實現(xiàn)?
樸素貝葉斯算法的優(yōu)缺點是什么?如何實現(xiàn)?
2020-07-24
收藏

文本分類,垃圾郵件過濾的場景中,我們經(jīng)常會用到的是樸素貝葉斯算法,今天小編就具體給大家介紹一下樸素貝葉斯算法

一、樸素貝葉斯算法簡介

1.樸素貝葉斯算法概念

樸素貝葉斯法是基于貝葉斯定理與特征條件獨立假設的分類方法。樸素貝葉斯分類器(Naive Bayes Classifier,或 NBC)發(fā)源于古典數(shù)學理論,有著堅實的數(shù)學基礎,以及穩(wěn)定的分類效率。

2.樸素貝葉斯算法優(yōu)缺點

優(yōu)點:

(1)樸素貝葉斯模型發(fā)源于古典數(shù)學理論,分類效率比較穩(wěn)定。

(2)對小規(guī)模的數(shù)據(jù)表現(xiàn)很好,能夠用于多分類任務的處理,適合增量式訓練,尤其是在數(shù)據(jù)量超出內(nèi)存的情況下,能夠一批批的去增量訓練。

(3)算法簡單,對缺失數(shù)據(jù)不太敏感。

缺點:

(1)理論上,樸素貝葉斯模型與其他分類方法相比具有最小的誤差率。但是實際上并非總是如此,這是因為樸素貝葉斯模型假設屬性之間是相互獨立的,而這個假設在實際應用中往往并不成立的。雖然在屬性相關性較小時,樸素貝葉斯性能良好。但是,在屬性個數(shù)比較多或者屬性之間相關性較大時,分類效果并不好。

(2)需要知道先驗概率,并且先驗概率在很多時候多是取決于假設,假設的模型可以有多種,從而導致在某些時候會由于假設的先驗模型而使得預測效果不佳。

(3)因為是通過先驗和數(shù)據(jù)來決定后驗的概率來決定分類的,所以分類決策存在一定的錯誤率。

(4)對輸入數(shù)據(jù)的表達形式很敏感。

二、貝葉斯定理

既然,樸素貝葉斯法是基于貝葉斯定理與特征條件獨立假設的分類方法。那么接下來我們就來了解一下貝葉斯定理。

貝葉斯算法是英國數(shù)學家貝葉斯(約1701-1761)Thomas Bayes,生前提出為解決“逆概”問題而提出的。

條件概率就是事件 A 在另外一個事件 B 已經(jīng)發(fā)生條件下的發(fā)生概率。條件概率表示為P(A|B),讀作“在 B 發(fā)生的條件下 A 發(fā)生的概率”。

聯(lián)合概率表示兩個事件共同發(fā)生(數(shù)學概念上的交集)的概率。A 與 B 的聯(lián)合概率表示為

推導:

從條件概率的定義推導出貝葉斯定理。

根據(jù)條件概率的定義,在事件 B 發(fā)生的條件下事件 A 發(fā)生的概率為:

同樣道理,在事件 A 發(fā)生的條件下事件 B 發(fā)生的概率為:

結合這兩個方程式,能夠得到:

這個引理有時稱作概率乘法規(guī)則。上式兩邊同除以 P(A),若P(A)是非零的,就能得到貝葉斯定理:

三、python實現(xiàn)文本分類


# 文本分類器
import numpy as np


# 數(shù)據(jù)樣本
def loadDataSet():
    # dataset = [['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
    #     #            ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
    #     #            ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'hime'],
    #     #            ['stop', 'posting', 'stupid', 'worthless', 'garbage'],
    #     #            ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
    #     #            ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
    dataset = [['玩', '游', '戲', '吧'],
               ['玩', 'lol', '吧'],
               ['我', '要', '學', '習'],
               ['學', '習', '使', '我', '快', '了'],
               ['學', '習', '萬', '歲'],
               ['我', '要', '玩', '耍']]
    label = [1, 1, 0, 0, 0, 1]
    return dataset, label


# 獲取文檔中出現(xiàn)的不重復詞表
def createVocabList(dataset):
    vocaset = set([])  # 用集合結構得到不重復詞表
    for document in dataset:
        vocaset = vocaset | set(document)  # 兩個集合的并集
    return list(vocaset)


def setword(listvocaset, inputSet):
    newVocaset = [0] * len(listvocaset)
    for data in inputSet:
        if data in listvocaset:
            newVocaset[listvocaset.index(data)] = 1  # 如果文檔中的單詞在列表中,則列表對應索引元素變?yōu)?
    return newVocaset


def train(listnewVocaset, label):
    label = np.array(label)
    numDocument = len(listnewVocaset)  # 樣本總數(shù)
    numWord = len(listnewVocaset[0])  # 詞表的大小
    pInsult = np.sum(label) / float(numDocument)
    p0num = np.ones(numWord)  # 非侮辱詞匯
    p1num = np.ones(numWord)  # 侮辱詞匯
    p0Denom = 2.0  # 拉普拉斯平滑
    p1Denom = 2.0
    for i in range(numDocument):
        if label[i] == 1:
            p1num += listnewVocaset[i]
            p1Denom += 1
        else:
            p0num += listnewVocaset[i]
            p0Denom += 1
        # 取對數(shù)是為了防止因為小數(shù)連乘而造成向下溢出
        p0 = np.log(p0num / p0Denom)  # 屬于非侮辱性文檔的概率
        p1 = np.log(p1num / p1Denom)  # 屬于侮辱性文檔的概率
    return p0, p1, pInsult


# 分類函數(shù)
def classiyyNB(Inputdata, p0, p1, pInsult):
    # 因為取對數(shù),因此連乘操作就變成了連續(xù)相加
    p0vec = np.sum(Inputdata * p0) + np.log(pInsult)
    p1vec = np.sum(Inputdata * p1) + np.log(1.0 - pInsult)
    if p0vec > p1vec:
        return 0
    else:
        return 1


def testingNB():
    dataset, label = loadDataSet()
    voast = createVocabList(dataset)
    listnewVocaset = []
    for listvocaset in dataset:
        listnewVocaset.append(setword(voast, listvocaset))
    p0, p1, pInsult = train(listnewVocaset, label)
    Inputdata = ['玩', '一', '玩']
    Inputdata = np.array(Inputdata)
    Inputdata = setword(voast, Inputdata)
    print("這句話對應的分類是:")
    print(classiyyNB(Inputdata, p0, p1, pInsult))


testingNB()


數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進行初始化 // 參數(shù)1:配置參數(shù) // 參數(shù)2:回調(diào),回調(diào)的第一個參數(shù)驗證碼對象,之后可以使用它調(diào)用相應的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須,不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務器是否宕機 new_captcha: data.new_captcha, // 用于宕機時表示是新驗證碼的宕機 product: "float", // 產(chǎn)品形式,包括:float,popup width: "280px", https: true // 更多配置參數(shù)說明請參見:http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'!'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'!'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }