99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀【從零開始學(xué)統(tǒng)計】10.共線性與異方差
【從零開始學(xué)統(tǒng)計】10.共線性與異方差
2014-07-04
收藏
傳統(tǒng)的多元線性回歸模型中，總是存在一個基本假設(shè)：解釋變量為非隨機變量且彼此間互不相關(guān)（實際上一般只要求不存在完全共線性），隨機誤差項相互獨立且服從零均值同方差的特性。那么這次，我們就來看看時常困擾我們的共線性和異方差的問題。
首先我們來了解一下什么是共線性：

所謂多重共線性是指線性回歸模型中的解釋變量之間由于存在精確相關(guān)關(guān)系或高度相關(guān)關(guān)系而使模型估計失真或難以估計準確。一般來說，由于經(jīng)濟數(shù)據(jù)的限制使得模型設(shè)計不當(dāng)，導(dǎo)致設(shè)計矩陣中解釋變量間存在普遍的相關(guān)關(guān)系。完全共線性的情況并不多見，一般出現(xiàn)的是在一定程度上的共線性，即近似共線性。它產(chǎn)生的主要原因有三個方面：
（1）經(jīng)濟變量相關(guān)的共同趨勢
（2）滯后變量的引入
（3）樣本資料的限制
如果解釋變量存在共線性，那么模型的參數(shù)估計情況就不太樂觀了，比如完全共線性下參數(shù)估計量不存在；近似共線性下OLS估計量非有效，多重共線性使參數(shù)估計值的方差增大；參數(shù)估計量經(jīng)濟含義不合理；變量的顯著性檢驗失去意義，可能將重要的解釋變量排除在模型之外；模型的預(yù)測功能失效（變大的方差容易使區(qū)間預(yù)測的“區(qū)間”變大，使預(yù)測失去意義）
需要注意：即使出現(xiàn)較高程度的多重共線性，OLS估計量仍具有線性性等良好的統(tǒng)計性質(zhì)。但是OLS法在統(tǒng)計推斷上無法給出真正有用的信息。
Q：我們該如何判斷變量存在共線性？
1、系數(shù)判定法
（1）如果決定系數(shù)很大（一般大于0.8），但模型中全部或部分參數(shù)卻不顯著，那么，此時解釋變量之間往往存在多重共線性。
（2）從經(jīng)濟理論知某些解釋變量對因變量有重要影響，或經(jīng)檢驗變量之間線性關(guān)系顯著，但其參數(shù)的檢驗均不顯著，一般就應(yīng)懷疑是多重共線性所致。
（3）如果對模型增添一個新的解釋變量之后，發(fā)現(xiàn)模型中原有參數(shù)估計值的方差明顯增大，則表明在解釋變量之間（包括新添解釋變量在內(nèi)）可能存在多重共線性。
2、用解釋變量之間所構(gòu)成的回歸方程的決定系數(shù)進行判別
3、逐步回歸判別法：被解釋變量逐個引入解釋變量，構(gòu)成回歸模型，進行參數(shù)估計，根據(jù)決定系數(shù)的變化決定新引入的變量是否能夠加入模型之中。首先將對所有的解釋變量分別作回歸，得到所有的模型，取決定系數(shù)最大的模型中的解釋變量加入模型，作為第一個引入模型的變量；其次，再對剩余的解釋變量分別加入模型，進行二元回歸，再次，取決定系數(shù)最大的解釋變量加入模型；依次做下去，直到模型的決定系數(shù)不再改善為止。
4、方差膨脹因子VIF判別法：對于多元線性回歸模型，一般當(dāng)VIF＞10時(此時 ＞0.9)，認為模型存在較嚴重的多重共線性。

Q：遇到多重共線性，我們該怎么辦？
（1）刪除不重要的自變量：自變量之間存在共線性，說明自變量所提供的信息是重疊的，可以刪除不重要的自變量減少重復(fù)信息。但從模型中刪去自變量時應(yīng)該注意從實際經(jīng)濟分析確定為相對不重要并從偏相關(guān)系數(shù)檢驗證實為共線性原因的那些變量中刪除。如果刪除不當(dāng)，會產(chǎn)生模型設(shè)定誤差，造成參數(shù)估計嚴重有偏的后果。
（2）追加樣本信息：多重共線性問題的實質(zhì)是樣本信息的不充分而導(dǎo)致模型參數(shù)的不能精確估計，因此追加樣本信息是解決該問題的一條有效途徑。但是，由于資料收集及調(diào)查的困難，要追加樣本信息在實踐中有時并不容易。
（3）利用非樣本先驗信息：非樣本先驗信息主要來自經(jīng)濟理論分析和經(jīng)驗認識。充分利用這些先驗的信息，往往有助于解決多重共線性問題。
（4）改變解釋變量的形式：改變解釋變量的形式是解決多重共線性的一種簡易方法，例如對于橫截面數(shù)據(jù)采用相對數(shù)變量，對于時間序列數(shù)據(jù)采用增量型變量。
（5）逐步回歸法：是一種常用的消除多重共線性、選取“最優(yōu)”回歸方程的方法。其做法是將逐個引入自變量，引入的條件是該自變量經(jīng)F檢驗是顯著的，每引入一個自變量后，對已選入的變量進行逐個檢驗，如果原來引入的變量由于后面變量的引入而變得不再顯著，那么就將其剔除。引入一個變量或從回歸方程中剔除一個變量，為逐步回歸的一步，每一步都要進行F 檢驗，以確保每次引入新變量之前回歸方程中只包含顯著的變量。這個過程反復(fù)進行，直到既沒有不顯著的自變量選入回歸方程，也沒有顯著自變量從回歸方程中剔除為止。
（6）可以做主成分回歸：利用主成分提取的原理（比如變量間方差最大等）提取新的變量，新變量間一般不存在線性相關(guān)（但也會存在如何給新變量命名的問題），這是比較常用的一種降維方式。



接下來就是同樣讓人為之煩惱的異方差問題了
通常說的異方差性就是(Var(εi ) ≠Var (εj ) , 當(dāng)i≠j時) 。經(jīng)濟現(xiàn)象是錯綜復(fù)雜的,在建立經(jīng)濟問題的回歸分析模型時,經(jīng)常會出現(xiàn)某一因素或一些因素隨著解釋變量觀測值的變化而對被解釋變量產(chǎn)生不同的影響,導(dǎo)致隨機誤差項產(chǎn)生不同方差,即異方差性。當(dāng)我們所研究的問題存在異方差性時,線性回歸模型的基本假定就被違反了。引起隨機誤差項產(chǎn)生異方差的原因很多,其中樣本數(shù)據(jù)為截面數(shù)據(jù)時較容易出現(xiàn)異方差性。而當(dāng)一個回歸問題存在異方差性時,如果仍用OLS估計未知參數(shù),就會造成估計值不是最優(yōu)、參數(shù)的顯著性檢驗失效、回歸方程的應(yīng)用效果極不理想等嚴重后果。
讓我們來看看同方差和異方差殘差圖上的區(qū)別：

異方差.jpg


那我們該如何更加精確的檢驗是否存在異方差呢？
1、戈德菲爾德-夸特(Goldfeld-Quandt)檢驗：G-Q檢驗以F檢驗為基礎(chǔ)，適用于樣本容量較大、異方差遞增或遞減的情況。G-Q檢驗的思想：先按某一解釋變量(通常是可能引起異方差的解釋變量)對樣本排序，再將排序后的樣本一分為二，對子樣①和子樣②分別作回歸，然后利用兩個子樣的殘差平方和之比構(gòu)造統(tǒng)計量進行異方差檢驗。
步驟：（1）將解釋變量排序，從中間去掉c=n/4個觀測值
          （2）分成兩個部分，利用樣本1和樣本2分別建立回歸模型
          （3）根據(jù)回歸求出各自殘差平方和RSS1和RSS2
          （4）在同方差假定下，構(gòu)造F統(tǒng)計量：F=(RSS2/V2)/(RSS1/V1)，與F（V2，V1）進行比較,若F值大于等于比較值則拒絕同方差假設(shè)，否則則不拒絕
注意：
（1）該檢驗的功效取決于c 值，c 值越大，則大小方差的差異越大，檢驗功效越好
（2）兩個回歸所用的觀測值的個數(shù)是否相等并不重要，因為可以通過公式改變自由度和統(tǒng)計量的計算公式來調(diào)整
（3）當(dāng)模型中包含多個解釋變量時，應(yīng)對每個可能引起方差的解釋變量都進行檢驗
2、懷特（White）檢驗：懷特檢驗不需要排序，且適合任何形式的異方差。
步驟：
（1）對原模型進行OLS 回歸，得到殘差ei
（2）以ei2為被解釋變量，以各種解釋變量、個解釋變量的平方項、解釋變量之間兩兩交叉項為解釋變量建立輔助回歸方程，并估計
（3）根據(jù)輔助回歸方程估計結(jié)果構(gòu)造并計算統(tǒng)計量nR2 ,它服從卡方分布（自由度為輔助回歸式中解釋變量個數(shù)）
（4）根據(jù)臨界值判斷，若大于臨界值，拒絕同方差假定；小于臨界值，則不拒絕同方差假定
注意：
（1）輔助回歸中可引入解釋變量的更高次冪
（2）在多元回歸中，由于解釋變量個數(shù)太多，可去掉輔助回歸式中解釋變量間的交叉項
Q：檢驗出異方差之后我們改如何處理？
1、WLS（加權(quán)最小二乘估計）是一種特殊的廣義最小二乘估計，其思想就是對于誤差越大的關(guān)系額賦予更加大的權(quán)重?？梢缘玫疥P(guān)于GLS的穩(wěn)健的統(tǒng)計量。GLS系數(shù)的解釋要回到原先的方程中去。如果分析的問題不是個體的數(shù)據(jù)，而是一個組或者是一個地區(qū)的數(shù)據(jù)平均值，那么就會出現(xiàn)系統(tǒng)性的異方差性。
2、FGLS（可行的最小二乘估計），當(dāng)我們不知道誤差函數(shù)的時候，可以采用相應(yīng)的模型，然后使用數(shù)據(jù)來估計相應(yīng)的參數(shù)，得到相應(yīng)的函數(shù)形式，最后替代GLS估計中的函數(shù)，后面的操作就不變。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個參數(shù)驗證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務(wù)器是否宕機 new_captcha: data.new_captcha, // 用于宕機時表示是新驗證碼的宕機 product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }