如何用stata做穩(wěn)健回歸

大量的線性回歸模型是基于最小二乘法實(shí)現(xiàn)的，但其仍存在一些局限性。比如說(shuō)，樣本點(diǎn)出現(xiàn)許多異常點(diǎn)時(shí)，傳統(tǒng)的最小二乘法將不再適用，此時(shí)則可以使用穩(wěn)健回歸（robust regression）代替最小二乘法。

操作

下面的穩(wěn)健回歸使用的是犯罪數(shù)據(jù)，該數(shù)據(jù)來(lái)自Alan Agresti和Barbara Finlay的《社會(huì)科學(xué)統(tǒng)計(jì)方法》。變量包括美國(guó)各州編號(hào)（sid）、州名（state）、每10萬(wàn)人犯罪案件數(shù)量（crime）、生活在貧困線以下人口的百分比（poverty）和單親人口百分比（single）等。我們選擇使用貧窮率和單狀況來(lái)預(yù)測(cè)犯罪率。

1. 獲取數(shù)據(jù)

   use https://stats.idre.ucla.edu/stat/stata/dae/crime, clear
   summarize crime poverty single
   

   導(dǎo)入數(shù)據(jù)，并描述各個(gè)變量的統(tǒng)計(jì)結(jié)果，輸出表格中包含樣本容量、平均數(shù)、標(biāo)準(zhǔn)差、最小值和最大值。

   
   

   

2. OLS回歸
   在穩(wěn)健回歸之前，我們先進(jìn)行OLS回歸，輸出結(jié)果如下。

   regress crime poverty single

   

3. 樣本點(diǎn)分析
   首先我們通過(guò)“l(fā)vr2plot”繪制殘差杠桿圖，通過(guò)識(shí)別離群點(diǎn)和高杠桿值點(diǎn)（杠桿點(diǎn)）進(jìn)而識(shí)別強(qiáng)影響點(diǎn)。假如存在杠桿點(diǎn)的話，要確定哪些是bad leverage point，對(duì)于這些離群點(diǎn)我們要評(píng)估它對(duì)擬合模型的影響。

   lvr2plot, mlabel(state)

   
   由圖中我們可以看出，dc、ms、fl三個(gè)點(diǎn)殘差較大或者杠桿值比較高。庫(kù)克距離是杠桿值與殘差大小的綜合效應(yīng)，一般而言，庫(kù)克距離大于1，則可認(rèn)為該樣本點(diǎn)為強(qiáng)影響點(diǎn)。接下來(lái)我們計(jì)算各點(diǎn)的庫(kù)克距離（Cook’s Distance），并輸出結(jié)果。

   predict d1, cooksd clist state crime poverty single d1ifd1>4/51, noobs

   
   由結(jié)果可以看出，dc點(diǎn)庫(kù)克距離大于1，表明dc這一樣本點(diǎn)對(duì)于回歸結(jié)果會(huì)產(chǎn)生較強(qiáng)的影響，在之后的穩(wěn)健回歸中我們會(huì)對(duì)dc點(diǎn)進(jìn)行特殊處理。
   接下來(lái)我們分析數(shù)據(jù)的殘差。使用rstandard這一命令，它表示標(biāo)準(zhǔn)化殘差的絕對(duì)值。

   predict r1, rstandard gen absr1 = abs(r1) gsort -absr1 clist state absr1in1/10, noobs

   

4. 穩(wěn)健回歸
   我們使用“rreg”命令進(jìn)行穩(wěn)健回歸，并輸出結(jié)果如下。

   rreg crime poverty single, gen(weight)

   
   對(duì)比最開(kāi)始的OLS回歸，我們發(fā)現(xiàn)兩者差異較大。并且穩(wěn)健回歸中的樣本點(diǎn)數(shù)量是50，OLS回歸中為51，這是因?yàn)榻?jīng)過(guò)前面的分析，由于dc這一異常值點(diǎn)對(duì)回歸結(jié)果影響較強(qiáng)，因此在穩(wěn)健回歸中我們將其舍去。下面的操作表明在穩(wěn)健回歸中，dc樣本點(diǎn)所占權(quán)重為零。

   clist state weightifstate =="dc", noobs

   
   下面的命令展示了其他權(quán)重較小的觀察值，一般而言，殘差較大的觀察值權(quán)重較小，例如我們之前提到的ms點(diǎn)。在OLS回歸中，所有樣本點(diǎn)的權(quán)重都是1，因此穩(wěn)健回歸中越多的樣本點(diǎn)權(quán)重是1，其回歸結(jié)果與OLS結(jié)果越相近。

   sort weight clist sid state weight absr1 d1in1/10, noobs

   
   我們還可以通過(guò)繪制圓圈的方式形象地展現(xiàn)這一關(guān)系。下圖中橫坐標(biāo)表示單親率，縱坐標(biāo)表示犯罪率，每一個(gè)圓圈表示一個(gè)樣本點(diǎn)，圓心為該樣本點(diǎn)在坐標(biāo)中的位置，圓圈直徑越大，表示該樣本點(diǎn)權(quán)重越大。

   twoway  (scatter crime single [weight=weight], msymbol(oh))ifstate !="dc"

   

5. 拓展
   我們?cè)诜€(wěn)健回歸分析之后，可以使用許多后續(xù)估計(jì)命令，比如test、margin等。下面的操作是我們控制貧困率之后，在不同的單親率下預(yù)測(cè)犯罪率。我們發(fā)現(xiàn)，隨著單親率的提高，犯罪率也相應(yīng)地上升。

   margins, at(single=(8(2)22)) vsquish