99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀數(shù)據(jù)挖掘之KNN分類
數(shù)據(jù)挖掘之KNN分類
2018-03-05
收藏

數(shù)據(jù)挖掘之KNN分類

分類算法有很多，貝葉斯、決策樹、支持向量積、KNN等，神經(jīng)網(wǎng)絡(luò)也可以用于分類。這篇文章主要介紹一下KNN分類算法。

1、介紹

KNN是k nearest neighbor 的簡稱，即k最鄰近，就是找k個最近的實例投票決定新實例的類標(biāo)。KNN是一種基于實例的學(xué)習(xí)算法，它不同于貝葉斯、決策樹等算法，KNN不需要訓(xùn)練，當(dāng)有新的實例出現(xiàn)時，直接在訓(xùn)練數(shù)據(jù)集中找k個最近的實例，把這個新的實例分配給這k個訓(xùn)練實例中實例數(shù)最多類。KNN也成為懶惰學(xué)習(xí)，它不需要訓(xùn)練過程，在類標(biāo)邊界比較整齊的情況下分類的準(zhǔn)確率很高。KNN算法需要人為決定K的取值，即找?guī)讉€最近的實例，k值不同，分類結(jié)果的結(jié)果也會不同。

2、舉例

看如下圖的訓(xùn)練數(shù)據(jù)集的分布，該數(shù)據(jù)集分為3類（在圖中以三種不同的顏色表示），現(xiàn)在出現(xiàn)一個待分類的新實例（圖中綠色圓點），假設(shè)我們的K=3，即找3個最近的實例，這里的定義的距離為歐氏距離，這樣找據(jù)該待分類實例最近的三個實例就是以綠點為中心畫圓，確定一個最小的半徑，使這個圓包含K個點。

如圖所示，可以看到紅圈包含的三個點中，類別2中有三個，類別3有一個，而類別1一個也沒有，根據(jù)少數(shù)服從多數(shù)的原理投票，這個綠色的新實例應(yīng)屬于2類。

3、K值的選取。

之前說過，K值的選取，將會影響分類的結(jié)果，那么K值該取多少合理。我們繼續(xù)上面提到的分類過程，現(xiàn)在我們把K設(shè)置為為7，如下圖所示：

可以看到當(dāng)k=7時，最近的7個點中1類有三個，2類和3類都有兩個，這時綠色的新實例應(yīng)該分給1類，這與K=5時的分類結(jié)果不同。

K值的選取沒有一個絕對的標(biāo)準(zhǔn)，但可以想象，K取太大并不能提高正確率，而且求K個最近的鄰居是一個O(K*N)復(fù)雜度的算法，k太大，算法效率會更低。

雖然說K值的選取，會影響結(jié)果，有人會認(rèn)為這個算法不穩(wěn)定，其實不然，這種影響并不是很大，因為只有這種影響只是在類別邊界上產(chǎn)生影響，而在類中心附近的實例影響很小，看下圖，對于這樣的一個新實例，k=3,k=5,k=11結(jié)果都是一樣的。

最后還有注意，在數(shù)據(jù)集不均衡的情況下，可能需要按各類的比例決定投票，這樣小類的正確率才不會過低。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個參數(shù)驗證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務(wù)器是否宕機 new_captcha: data.new_captcha, // 用于宕機時表示是新驗證碼的宕機 product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }