99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話:13121318867

登錄
首頁精彩閱讀決策樹、邏輯回歸、線性回歸使用時注意事項以及模型過擬合策略
決策樹、邏輯回歸、線性回歸使用時注意事項以及模型過擬合策略
2018-01-17
收藏

決策樹邏輯回歸、線性回歸使用時注意事項以及模型過擬合策略

 決策樹缺點和注意事項:
    決策樹的最大缺點是原理中的貪心算法。因此它所做的選擇只能是某種意義上的局部最優(yōu)選擇。
    若目標(biāo)變量是連續(xù)變量,那么決策樹就不使用了,改用回歸模型
    若某些自變量的類別種類較多,或者自變量是區(qū)間型時,決策樹過擬合的危險會增大。這種情況需要分箱或多次模型驗證,確保其具有穩(wěn)定性。

    對區(qū)間型變量進(jìn)行分箱操作時,無論是否考慮了順序因素,都有可能因為分箱喪失了某些重要信息,尤其是當(dāng)分箱前的區(qū)間型便變量與目標(biāo)變量有明顯的線性關(guān)系時,這種分箱造成的損失更為明顯。

邏輯回歸(目標(biāo)變量是二元變量)
    建模數(shù)據(jù)量不能太少,目標(biāo)變量中每個類別所對應(yīng)的樣本數(shù)量要足夠充分,才能支持建模
    排除共線性問題(自變量間相關(guān)性很大)
    異常值會給模型帶來很大干擾,要剔除。
    邏輯回歸不能處理缺失值,所以之前應(yīng)對缺失值進(jìn)行適當(dāng)處理。

線性回歸缺點和注意事項
    對異常值敏感,應(yīng)剔除。
    只適合處理線性關(guān)系,若自變量和因變量間有比較強的非線性關(guān)系,應(yīng)該對自變量進(jìn)行一定的轉(zhuǎn)換,比如取對數(shù)、開方、取平方根等。
    多元線性回歸應(yīng)用有一定的前提假設(shè),自變量是確定的變量,而不是隨機(jī)變量,自變量間沒有線性相關(guān),隨機(jī)誤差呈正太分布,隨機(jī)誤差項具有均值為0以及等方差性。

線性回歸邏輯回歸的區(qū)別
    線性回歸針對的目標(biāo)變量是區(qū)間型的,邏輯回歸針對的目標(biāo)變量是類別型的
    線性回歸模型的目標(biāo)變量和自變量之間的關(guān)系假設(shè)是線性相關(guān)的,邏輯回歸模型中的目標(biāo)變量和自變量是非線性的
    線性回歸中通常會用假設(shè),對應(yīng)于自變量x的某個值,目標(biāo)變量y的觀察值是服從正太分布的。邏輯回歸中目標(biāo)變量y是服從二項分布0和1或者多項分布的
    邏輯回歸中不存在線性回歸中常見的殘差
    參數(shù)估值上,線性回歸采用最小平方法,邏輯回歸采用最大似染法。

過擬合產(chǎn)生原因:
    樣本里噪聲數(shù)據(jù)干擾過大。樣本噪聲大到模型過分記住了噪聲特征,反而忽略了真實的輸入輸出間的關(guān)系。
    建模時的邏輯假設(shè)應(yīng)用到模型時不成立了。任何預(yù)測模型都是在假設(shè)的基礎(chǔ)上才可以使用的,比如業(yè)務(wù)環(huán)節(jié)沒有發(fā)生顯著變化,數(shù)據(jù)符合某種分布等,如果上述假設(shè)違反了業(yè)務(wù)場景,那么該模型就不能用了。
    建模時使用了太多輸入變量。同噪聲數(shù)據(jù)相似,不分析數(shù)據(jù)特征,把所有的變量交給機(jī)器去處理,撞大運,一個穩(wěn)定優(yōu)良的模型一定要遵循輸入變量的少而精的原則。
    若用決策樹,沒有對決策樹的生長進(jìn)行合理的限制和剪枝,由著決策樹自己生長,可能會過分?jǐn)M合原始數(shù)據(jù),對新數(shù)據(jù)一塌糊涂。
    建模樣本抽取錯誤。包括但不限于樣本數(shù)量少,抽樣方法錯誤,抽樣時沒有足夠正確的考慮業(yè)務(wù)場景和特點,以致于抽出的樣本數(shù)據(jù)不能足夠有效的代表業(yè)務(wù)邏輯和業(yè)務(wù)場景。

放置過擬合的手段:
    合理有效抽樣,包括分層抽樣,過抽樣等,從而用不同的樣本去檢驗?zāi)P汀?br />     交叉檢驗,這是目前業(yè)界防止過擬合常用手段。
    數(shù)據(jù)若太少,不要用神經(jīng)網(wǎng)絡(luò)模型(深度學(xué)習(xí)),否則是淺度學(xué)習(xí),而且一定要實現(xiàn)篩選輸入變量,不要把所有變量一股腦放進(jìn)去。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1:配置參數(shù) // 參數(shù)2:回調(diào),回調(diào)的第一個參數(shù)驗證碼對象,之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須,不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時表示是新驗證碼的宕機(jī) product: "float", // 產(chǎn)品形式,包括:float,popup width: "280px", https: true // 更多配置參數(shù)說明請參見:http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'!'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'!'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }