99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀機(jī)器學(xué)習(xí)中常見算法的優(yōu)缺點之 ID3、C4.5算法和Adaboosting
機(jī)器學(xué)習(xí)中常見算法的優(yōu)缺點之 ID3、C4.5算法和Adaboosting
2019-04-03
收藏


大家都知道，機(jī)器學(xué)習(xí)中有很多算法，比如說決策樹，隨機(jī)森林，線性回歸等等，其實這些算法都是有很多優(yōu)點，同時也是有很多的缺點。我們在這篇文章中給大家介紹一下ID3、C4.5算法、CART分類與回歸樹和Adaboosting算法的優(yōu)缺點，希望這篇文章能夠更好的幫助大家理解機(jī)器學(xué)習(xí)。


首先我們給大家介紹一下ID3、C4.5算法，其實ID3算法是以信息論為基礎(chǔ)，以信息熵和信息增益度為衡量標(biāo)準(zhǔn)，從而實現(xiàn)對數(shù)據(jù)的歸納分類。ID3算法計算每個屬性的信息增益，并選取具有最高增益的屬性作為給定的測試屬性。C4.5算法核心思想是ID3算法，是ID3算法的改進(jìn)，改進(jìn)方面有四方面，第一就是用信息增益率來選擇屬性，克服了用信息增益選擇屬性時偏向選擇取值多的屬性的不足。第二就是在樹構(gòu)造過程中進(jìn)行剪枝。第三就是能處理非離散的數(shù)據(jù)。第四就是能處理不完整的數(shù)據(jù)。


那么這種算法的優(yōu)點是什么呢？優(yōu)點很明顯，那就是產(chǎn)生的分類規(guī)則易于理解，準(zhǔn)確率較高。而缺點就是在構(gòu)造樹的過程中，需要對數(shù)據(jù)集進(jìn)行多次的順序掃描和排序，因而導(dǎo)致算法的低效。同時C4.5只適合于能夠駐留于內(nèi)存的數(shù)據(jù)集，當(dāng)訓(xùn)練集大得無法在內(nèi)存容納時程序無法運行。


那么什么是CART分類與回歸樹呢？其實這兩種算法就是一種決策樹分類方法，采用基于最小距離的基尼指數(shù)估計函數(shù)，用來決定由該子數(shù)據(jù)集生成的決策樹的拓展形。如果目標(biāo)變量是標(biāo)稱的，稱為分類樹；如果目標(biāo)變量是連續(xù)的，稱為回歸樹。分類樹是使用樹結(jié)構(gòu)算法將數(shù)據(jù)分成離散類的方法。


這種算法的優(yōu)點體現(xiàn)在兩方面，第一就是這種算法非常靈活，可以允許有部分錯分成本，還可指定先驗概率分布，可使用自動的成本復(fù)雜性剪枝來得到歸納性更強(qiáng)的樹。第二就是在面對諸如存在缺失值、變量數(shù)多等問題時CART顯得非常穩(wěn)健。


最后我們給大家介紹一下Adaboosting ，其實Adaboost是一種加和模型，每個模型都是基于上一次模型的錯誤率來建立的，過分關(guān)注分錯的樣本，而對正確分類的樣本減少關(guān)注度，逐次迭代之后，可以得到一個相對較好的模型。該算法是一種典型的boosting算法，其加和理論的優(yōu)勢可以使用Hoeffding不等式得以解釋。而這種算法的優(yōu)點就是具有很高精度的特性。這種算法可以使用各種方法構(gòu)建子分類器，Adaboost算法提供的是框架。同時，當(dāng)使用簡單分類器時，計算出的結(jié)果是可以理解的，并且弱分類器的構(gòu)造極其簡單。而簡單也是其中一個特點，不用做特征篩選。最后就是不易發(fā)生overfitting。而缺點只有一個，那就是對outlier比較敏感。


在這篇文章中我們給大家介紹了關(guān)于機(jī)器學(xué)習(xí)算法的優(yōu)缺點，具體就是ID3、C4.5算法、CART分類與回歸樹和Adaboosting算法，其實這些算法都是十分實用的，所以說我們在學(xué)習(xí)機(jī)器學(xué)習(xí)的時候一定不要忽視這些算法的學(xué)習(xí)。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個參數(shù)驗證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時表示是新驗證碼的宕機(jī) product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }