99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話:13121318867

登錄
首頁(yè)精彩閱讀數(shù)據(jù)挖掘---分類:基本概念、決策樹(shù)、與模型評(píng)估
數(shù)據(jù)挖掘---分類:基本概念、決策樹(shù)、與模型評(píng)估
2018-06-13
收藏

數(shù)據(jù)挖掘---分類:基本概念、決策樹(shù)、與模型評(píng)估

分類:基本概念、決策樹(shù)模型評(píng)估 分類任務(wù)就是確定對(duì)象屬于那個(gè)預(yù)定義的目標(biāo)類。就是通過(guò)學(xué)習(xí)得到一個(gè)目標(biāo)函數(shù)f,把每個(gè)屬性集映射到一個(gè)預(yù)先定義的類標(biāo)號(hào)y. 一、預(yù)備知識(shí) 分類任務(wù)的輸入數(shù)據(jù)是記錄的集合,每條記錄稱為實(shí)例,用元組(x,y)表示,其中x是屬性的集合,y是一個(gè)特殊的集合。  描述性建模:分類模型可以作為解釋性工具,用于區(qū)分不同類中的對(duì)象. 預(yù)測(cè)性建模:分類模型還可以用于預(yù)測(cè)未知記錄的類標(biāo)號(hào). 二.解決分類問(wèn)題的一般方法 分類法的例子包括決策樹(shù)法、基于規(guī)則的分類法、神經(jīng)網(wǎng)絡(luò)支持向量機(jī)樸素貝葉斯分類法。 分類模型的性能根據(jù)模型正確和錯(cuò)誤預(yù)測(cè)的檢驗(yàn)記錄計(jì)數(shù)進(jìn)行評(píng)估,這些計(jì)數(shù)存放在稱作混淆矩陣的表格中。準(zhǔn)確性=正確預(yù)測(cè)數(shù)/預(yù)測(cè)總數(shù)。 差錯(cuò)率:錯(cuò)誤預(yù)測(cè)數(shù)/預(yù)測(cè)總數(shù)。 三。決策樹(shù)歸納 1。決策樹(shù)工作原理 樹(shù)中包換三種結(jié)點(diǎn): 根結(jié)點(diǎn):它沒(méi)有入邊,但有零條或多條出邊。 內(nèi)部結(jié)點(diǎn):恰有一條入邊和兩條或多條出邊。 葉結(jié)點(diǎn):恰有一條入邊,但沒(méi)有出邊。 其中,每個(gè)葉結(jié)點(diǎn)都賦予一個(gè)類標(biāo)號(hào),非終結(jié)點(diǎn)(包括根結(jié)點(diǎn)和內(nèi)部結(jié)點(diǎn))包含屬性測(cè)試條件,用以分開(kāi)具有不同特性的記錄。一旦構(gòu)造了決

策樹(shù),對(duì)檢驗(yàn)記錄進(jìn)行分類就是直截了當(dāng)?shù)模瑥臉?shù)的根結(jié)點(diǎn)出發(fā),將測(cè)試條件用于檢驗(yàn)記錄,根據(jù)測(cè)試結(jié)果選擇適當(dāng)?shù)姆种?,沿著該分支或?

達(dá)到另一個(gè)內(nèi)部結(jié)點(diǎn),使用新的測(cè)試條件或者達(dá)到一個(gè)葉結(jié)點(diǎn),葉結(jié)點(diǎn)的類稱號(hào)就被賦值給該檢驗(yàn)記錄。 2。如何建立決策樹(shù) 對(duì)于給定的屬性集,可以構(gòu)造的決策樹(shù)數(shù)目達(dá)指數(shù)級(jí),找出最佳的決策樹(shù)在計(jì)算上是不可行的,所以通常采用貪心算法,采取一系列局部最優(yōu)

決策來(lái)構(gòu)造決策樹(shù)。Hunt算法就是其中一種。 *Hunt算法 Hunt算法通過(guò)將訓(xùn)練記錄相繼劃分成較純的子集,以遞歸方式建立決策樹(shù)。 決策樹(shù)歸納設(shè)計(jì)問(wèn)題必須解決以下兩個(gè)問(wèn)題:如何分裂訓(xùn)練記錄和如何停止分裂過(guò)程。 3。表示屬性測(cè)試條件的方法 二元屬性:二元屬性的測(cè)試條件產(chǎn)生兩個(gè)可能的輸出。 標(biāo)稱屬性:由于標(biāo)稱有多個(gè)屬性值,它的測(cè)試條件可以用兩種方法表示,多路劃分和二元?jiǎng)澐郑ㄈ纾篊ART方法) 充數(shù)屬性:也可以產(chǎn)生二元或多路劃分。 連續(xù)屬性:測(cè)試條件可以具有二元輸出的比較測(cè)試(A<v)或(A>=v),也可以是具有形如:vi<=A<vi+1來(lái)劃分輸出的范圍查詢。 4。選擇最佳劃分的度量 為了確定測(cè)試條件的效果,需要比較父結(jié)點(diǎn)(劃分前)的不純程度和子女結(jié)點(diǎn)(劃分后)的不純程度,它們的差越大,測(cè)試條件的效果就越好

。 5。決策樹(shù)歸納的特點(diǎn): *決策樹(shù)歸納是一種構(gòu)建分類模型的非參數(shù)方法。 *找到最佳的決策樹(shù)是NP完全問(wèn)題。 *已開(kāi)發(fā)的構(gòu)建決策樹(shù)技術(shù)不需要昂貴的計(jì)算代價(jià)。 *決策樹(shù)相對(duì)容易解釋,特別是小型的決策樹(shù)。 *決策樹(shù)是學(xué)習(xí)離散值函數(shù)的典型代表。 *決策樹(shù)對(duì)于噪聲有良好的魯棒性。 *冗余屬性不會(huì)對(duì)決策的準(zhǔn)確率造成不利的影響。 *存在著數(shù)據(jù)碎片的問(wèn)題。 *子樹(shù)可能在決策樹(shù)中重復(fù)多次。 四。模型的過(guò)分?jǐn)M合 分類模型的誤差大致分為兩種:訓(xùn)練誤差和泛化誤差。一個(gè)好的分類模型不僅要能夠很好地?cái)M合訓(xùn)練數(shù)據(jù),而且對(duì)未知樣本也要能準(zhǔn)確地分類

。然而,對(duì)訓(xùn)練集數(shù)據(jù)擬合太好的模型,其泛化誤差可能比具有較高訓(xùn)練誤差的模型高,這就是所謂的模型過(guò)分?jǐn)M合。 1。噪聲導(dǎo)致的過(guò)分?jǐn)M合 也就是訓(xùn)練集中有被錯(cuò)誤分類的記錄。 2。缺乏代表性樣本導(dǎo)致的過(guò)分?jǐn)M合 3。過(guò)分?jǐn)M合與多重比較過(guò)程 要增加一個(gè)屬性測(cè)試條件,是從候選的屬性集中挑一個(gè)使得增益大于某個(gè)閾值的一個(gè)屬性,這樣算法就會(huì)在模型上增加一些欺騙性的結(jié)點(diǎn),導(dǎo)

致過(guò)分?jǐn)M合。 4。泛化誤差估計(jì) *使用再代入估計(jì):假設(shè)訓(xùn)練數(shù)據(jù)集可以很好的代表整體數(shù)據(jù),因而可以使用訓(xùn)練誤差提供對(duì)泛化誤差的樂(lè)觀估計(jì)。 *結(jié)合模型復(fù)雜度:如前所述,模型越是復(fù)雜,出現(xiàn)過(guò)分?jǐn)M合的幾率就越高,因此我們更喜歡較為簡(jiǎn)單的模型。這種策略與Occam剃刀或節(jié)儉原

則一致,Occam剃刀:給定兩個(gè)具有相同泛化誤差的模型,較簡(jiǎn)單的模型比較復(fù)雜的模型更可取。 五。評(píng)估分類器的性能 1。保持方法:將被標(biāo)記的原始數(shù)據(jù)劃分成兩個(gè)不相交的集合,分別稱為訓(xùn)練集和檢驗(yàn)集,在訓(xùn)練集上歸納分類模型,在檢驗(yàn)集上評(píng)估模型的性

能。 2。隨機(jī)二次抽樣:可以多次重復(fù)保持方法來(lái)改進(jìn)對(duì)分類器性能的估計(jì)。 3。交叉驗(yàn)證:每個(gè)記錄用于訓(xùn)練的次數(shù)相同,并且用于檢驗(yàn)恰好一次。


數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼

若不方便掃碼,搜微信號(hào):CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1:配置參數(shù) // 參數(shù)2:回調(diào),回調(diào)的第一個(gè)參數(shù)驗(yàn)證碼對(duì)象,之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個(gè)配置參數(shù)為必須,不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺(tái)檢測(cè)極驗(yàn)服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時(shí)表示是新驗(yàn)證碼的宕機(jī) product: "float", // 產(chǎn)品形式,包括:float,popup width: "280px", https: true // 更多配置參數(shù)說(shuō)明請(qǐng)參見(jiàn):http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計(jì)時(shí)完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請(qǐng)輸入'+oInput.attr('placeholder')+'!'; var errTxt = '請(qǐng)輸入正確的'+oInput.attr('placeholder')+'!'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }