R語(yǔ)言對(duì)回歸模型進(jìn)行回歸診斷

在R語(yǔ)言中，對(duì)數(shù)據(jù)進(jìn)行回歸建模是一件很簡(jiǎn)單的事情，一個(gè)lm()函數(shù)就可以對(duì)數(shù)據(jù)進(jìn)行建模了，但是建模了之后大部分人很可能忽略了一件事情就是，對(duì)回歸模型進(jìn)行診斷，判斷這個(gè)模型到低是否模型的假定；如果不符合假定，模型得到的結(jié)果和現(xiàn)實(shí)中會(huì)有巨大的差距，甚至一些參數(shù)的檢驗(yàn)因此失效。

因?yàn)樵趯?duì)回歸模型建模的時(shí)候我們使用了最小二乘法對(duì)模型參數(shù)的估計(jì)，什么是最小二乘法，通俗易懂的來(lái)說(shuō)就是使得估計(jì)的因變量和樣本的離差最小，說(shuō)白了就是估計(jì)出來(lái)的值誤差最?。坏窃谑褂?a href='/map/zuixiaoercheng/' style='color:#000;font-size:inherit;'>最小二乘法的前提是有幾個(gè)假設(shè)的。

這里我就引用《R語(yǔ)言實(shí)戰(zhàn)》的內(nèi)容了，在我大學(xué)中的《計(jì)量經(jīng)濟(jì)學(xué)》這本書(shū)講的更為詳細(xì)，不過(guò)這里主要是介紹使用R語(yǔ)言對(duì)模型進(jìn)行回歸診斷，所以我們就不說(shuō)太詳細(xì)了；

假定

正態(tài)性：對(duì)于固定的自變量值，因變量值成正態(tài)分布，也就是說(shuō)因變量的是服從正態(tài)分布的

獨(dú)立性：Yi值之間相互獨(dú)立，也就是說(shuō)Yi之間不存在自相關(guān)

線性：因變量和自變量是線性相關(guān)的，如果是非線性相關(guān)的話就不可以了

同方差：因變量的方法不隨著自變量的水平還不同而變化，也可稱之為同方差

為了方便大家使用和對(duì)照，這里就使用書(shū)上的例子給大家介紹了，在系統(tǒng)自帶的安裝包中women數(shù)據(jù)集，我們就想通過(guò)身高來(lái)預(yù)測(cè)一下體重；在做回歸診斷之前我們得先建模；

首先我們先看一下數(shù)據(jù)是長(zhǎng)什么樣子的，因?yàn)槲覀儾荒苊つ康哪玫綌?shù)據(jù)后建模，一般稍微規(guī)范的點(diǎn)流程是先觀察數(shù)據(jù)的分布情況，判斷線性相關(guān)系數(shù)，然后在考慮是否建立回歸模型，然后在進(jìn)行回歸診斷；

R代碼如下：

data(‘women’)

women

結(jié)果如下

初步觀察數(shù)據(jù)大概告訴我們體重就是跟隨著身高增長(zhǎng)而增長(zhǎng)的，再通過(guò)畫(huà)一下散點(diǎn)圖觀察。

R代碼如下

plot(women)

然后我們?cè)谂袛嘁幌赂鱾€(gè)變量之間的線性相關(guān)系數(shù)，然后再考慮要不要建模

R代碼如下

cor(women)

結(jié)果如下

從相關(guān)系數(shù)的結(jié)果上看，身高和體重的相關(guān)程度高達(dá)0.9954，可以認(rèn)為是完全有關(guān)系的。

根據(jù)以上的判斷我們認(rèn)為可以建立模型去預(yù)測(cè)了，這時(shí)候我們使用LM()函數(shù)去建模，并通過(guò)summary函數(shù)去得到完整的結(jié)果。

R代碼如下

model <- lm(weight~height,data=women)

summary(model)

出現(xiàn)這個(gè)問(wèn)號(hào)原因是由于電腦字符集問(wèn)題；稍微解讀一下這個(gè)結(jié)果，RESIDUALS是殘差的五分位數(shù)，不知道五分位的可以百度一下，這里不多說(shuō)，下面的結(jié)果height的回歸系數(shù)是3.45，標(biāo)準(zhǔn)差是0.09114，T值為37.85，P值為1.09e-14,并顯著通過(guò)假設(shè)檢驗(yàn)，殘差的標(biāo)準(zhǔn)差為1.525，可決系數(shù)為0.991,認(rèn)為自變量可以解釋總體方差的99.1%，調(diào)整后的可決系數(shù)為0.9903,這是剔除掉自變量的個(gè)數(shù)后的可決系數(shù)，這個(gè)比較有可比性，一般我都看這個(gè)調(diào)整后的可決系數(shù)。結(jié)果就解讀那么多，因此得到的結(jié)果就是

上面只是借用了一個(gè)小小例子來(lái)講解了一下R語(yǔ)言做回歸模型的過(guò)程，接下來(lái)我們將一下如何進(jìn)行回歸診斷，還是原來(lái)的那個(gè)模型，因?yàn)槭褂肔M函數(shù)中會(huì)有一些對(duì)結(jié)果評(píng)價(jià)的內(nèi)容，因此我們用PLOT函數(shù)將畫(huà)出來(lái)；

R代碼如下

par(mfrow=c(2,2))

plot(model)

結(jié)果如下

左上：代表的殘差值和擬合值的擬合圖，如果模型的因變量和自變量是線性相關(guān)的話，殘差值和擬合值是沒(méi)有任何關(guān)系的，他們的分布應(yīng)該是也是在0左右隨機(jī)分布，但是從結(jié)果上看，是一個(gè)曲線關(guān)系，這就有可能需要我們家一項(xiàng)非線性項(xiàng)進(jìn)去了

右上:代表正態(tài)QQ圖，說(shuō)白了就是標(biāo)準(zhǔn)化后的殘差分布圖，如果滿足正態(tài)假定，那么點(diǎn)應(yīng)該都在45度的直線上，若不是就違反了正態(tài)性假

左下：位置尺度圖，主要是檢驗(yàn)是否同方差的假設(shè)，如果是同方差，周圍的點(diǎn)應(yīng)該隨機(jī)分布

右下：主要是影響點(diǎn)的分析，叫殘差與杠桿圖，鑒別離群值和高杠桿值和強(qiáng)影響點(diǎn)，說(shuō)白了就是對(duì)模型影響大的點(diǎn)

根據(jù)左上的圖分布我們可以知道加個(gè)非線性項(xiàng)，R語(yǔ)言實(shí)戰(zhàn)里面是加二次項(xiàng)，這里我取對(duì)數(shù)，主要是體現(xiàn)理解

R代碼如下

model1 <- lm(weight~height+log(height),data=women)

plot(model1)

summary(model1)

結(jié)果如下

診斷圖

模型擬合結(jié)果圖

綜合起來(lái)我們新模型貌似更優(yōu)了；我就介紹到這里，具體大家可以看書(shū)籍