如何用stata做穩(wěn)健回歸

大量的線性回歸模型是基于最小二乘法實現(xiàn)的，但其仍存在一些局限性。比如說，樣本點出現(xiàn)許多異常點時，傳統(tǒng)的最小二乘法將不再適用，此時則可以使用穩(wěn)健回歸（robust regression）代替最小二乘法。

操作

下面的穩(wěn)健回歸使用的是犯罪數(shù)據(jù)，該數(shù)據(jù)來自Alan Agresti和Barbara Finlay的《社會科學(xué)統(tǒng)計方法》。變量包括美國各州編號（sid）、州名（state）、每10萬人犯罪案件數(shù)量（crime）、生活在貧困線以下人口的百分比（poverty）和單親人口百分比（single）等。我們選擇使用貧窮率和單狀況來預(yù)測犯罪率。

1. 獲取數(shù)據(jù)

   use https://stats.idre.ucla.edu/stat/stata/dae/crime, clear
   summarize crime poverty single
   

   導(dǎo)入數(shù)據(jù)，并描述各個變量的統(tǒng)計結(jié)果，輸出表格中包含樣本容量、平均數(shù)、標準差、最小值和最大值。

   
   

   

2. OLS回歸
   在穩(wěn)健回歸之前，我們先進行OLS回歸，輸出結(jié)果如下。

   regress crime poverty single

   

3. 樣本點分析
   首先我們通過“l(fā)vr2plot”繪制殘差杠桿圖，通過識別離群點和高杠桿值點（杠桿點）進而識別強影響點。假如存在杠桿點的話，要確定哪些是bad leverage point，對于這些離群點我們要評估它對擬合模型的影響。

   lvr2plot, mlabel(state)

   
   由圖中我們可以看出，dc、ms、fl三個點殘差較大或者杠桿值比較高。庫克距離是杠桿值與殘差大小的綜合效應(yīng)，一般而言，庫克距離大于1，則可認為該樣本點為強影響點。接下來我們計算各點的庫克距離（Cook’s Distance），并輸出結(jié)果。

   predict d1, cooksd clist state crime poverty single d1ifd1>4/51, noobs

   
   由結(jié)果可以看出，dc點庫克距離大于1，表明dc這一樣本點對于回歸結(jié)果會產(chǎn)生較強的影響，在之后的穩(wěn)健回歸中我們會對dc點進行特殊處理。
   接下來我們分析數(shù)據(jù)的殘差。使用rstandard這一命令，它表示標準化殘差的絕對值。

   predict r1, rstandard gen absr1 = abs(r1) gsort -absr1 clist state absr1in1/10, noobs

   

4. 穩(wěn)健回歸
   我們使用“rreg”命令進行穩(wěn)健回歸，并輸出結(jié)果如下。

   rreg crime poverty single, gen(weight)

   
   對比最開始的OLS回歸，我們發(fā)現(xiàn)兩者差異較大。并且穩(wěn)健回歸中的樣本點數(shù)量是50，OLS回歸中為51，這是因為經(jīng)過前面的分析，由于dc這一異常值點對回歸結(jié)果影響較強，因此在穩(wěn)健回歸中我們將其舍去。下面的操作表明在穩(wěn)健回歸中，dc樣本點所占權(quán)重為零。

   clist state weightifstate =="dc", noobs

   
   下面的命令展示了其他權(quán)重較小的觀察值，一般而言，殘差較大的觀察值權(quán)重較小，例如我們之前提到的ms點。在OLS回歸中，所有樣本點的權(quán)重都是1，因此穩(wěn)健回歸中越多的樣本點權(quán)重是1，其回歸結(jié)果與OLS結(jié)果越相近。

   sort weight clist sid state weight absr1 d1in1/10, noobs

   
   我們還可以通過繪制圓圈的方式形象地展現(xiàn)這一關(guān)系。下圖中橫坐標表示單親率，縱坐標表示犯罪率，每一個圓圈表示一個樣本點，圓心為該樣本點在坐標中的位置，圓圈直徑越大，表示該樣本點權(quán)重越大。

   twoway  (scatter crime single [weight=weight], msymbol(oh))ifstate !="dc"

   

5. 拓展
   我們在穩(wěn)健回歸分析之后，可以使用許多后續(xù)估計命令，比如test、margin等。下面的操作是我們控制貧困率之后，在不同的單親率下預(yù)測犯罪率。我們發(fā)現(xiàn)，隨著單親率的提高，犯罪率也相應(yīng)地上升。

   margins, at(single=(8(2)22)) vsquish