99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁大數(shù)據(jù)時代機器學習：關于最小二乘法基本概念的理解
機器學習：關于最小二乘法基本概念的理解
2020-07-01
收藏

今天小編給大家分享一下最小二乘法的一些內容。

一、最小二乘法概念

最小二乘法Least Square Method，做為分類回歸算法的基礎，有著悠久的歷史(由馬里·勒讓德于1806年提出)。主要是通過最小化誤差的平方以及最合適數(shù)據(jù)的匹配函數(shù)。

作用：(1)利用最小二乘法可以得到位置數(shù)據(jù)(這些數(shù)據(jù)與實際數(shù)據(jù)之間誤差平方和最小)(2)也可以用來曲線擬合

二、最小二乘法的一般提法為：

已知 n 組觀測數(shù)據(jù)(x1.y1),(x2.y2)...........(xn,yn)， 可認為它們滿足某一模型 y=g(x)+ε(x)，其中 y=g(x)是函數(shù) ，ε(x)=y-g(x)是觀測值與函數(shù)值得誤差，稱為誤差函數(shù)。 那么有 yi是觀測值，εi=yi-g(xi)是觀測誤差。 設 g (x)是含有 p 個參數(shù)的擬合函數(shù)，則 ε(x)=y- g (x)，εi=yi- g (xi)，要確定 g (x)中 p 個參數(shù)的值，就要使得ni = 1Σεi2=ni = 1Σ(yi- g (xi))2達到最小。 這一方法稱為最小二乘法。 特別的，假設擬合函數(shù)為：

y*=a1φ1(x)+a2φ2(x)+........asφs(x)

其中 φ1(x),φ2(x)............φs(x)為所選定的基函數(shù)，ai(i=1.2.....s)為待定系數(shù)，要確定系數(shù) ai(i=1.2.....s)，使得 y*與 n 組觀測數(shù)據(jù)的距離的平方和盡可能小，也就是取最小值。

三、最小二乘法的適用場景

當樣本量m很少，小于特征數(shù)n的時候，這時擬合方程是欠定的，需要使用LASSO。當m=n時，用方程組求解。當m>n時，擬合方程是超定的，我們可以使用最小二乘法。

四、最小二乘法局限性

首先，最小二乘法需要計算(XTX)?1逆矩陣，有可能逆矩陣不存在，這樣就沒有辦法直接用最小二乘法。

第二，當樣本特征n非常的大的時候，計算逆矩陣是一個非常耗時的工作，甚至不可行。建議不超過10000個特征。

第三，如果擬合函數(shù)不是線性的，這時無法使用最小二乘法，需要通過一些技巧轉化為線性才能使用。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師考試動態(tài)
數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調用 initGeetest 進行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調，回調的第一個參數(shù)驗證碼對象，之后可以使用它調用相應的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務器是否宕機 new_captcha: data.new_captcha, // 用于宕機時表示是新驗證碼的宕機 product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }