
如何衡量多元線性回歸模型優(yōu)劣
最近再做一些多元回歸分析方面的分析,但對(duì)于得出的回歸模型的好壞不知道如何才判斷,于是查找了一下相關(guān)的教材書(shū)籍,找到了張文彤老師寫(xiě)的《SPSS統(tǒng)計(jì)分析高級(jí)教程》這本書(shū),里面對(duì)于回歸模型的優(yōu)劣評(píng)價(jià)給出來(lái)了幾點(diǎn)看法,我在此做了摘錄分享一下。
當(dāng)供建立回歸模型的自變量有p 個(gè)時(shí),僅考慮各因素的主效應(yīng),可以建立2^P 個(gè)模型(包括僅含常數(shù)項(xiàng)的模型)。如果來(lái)衡量這些模型的好壞?常用有以下幾種標(biāo)準(zhǔn):
1.復(fù)相關(guān)系數(shù)R
復(fù)相關(guān)系數(shù)(Multiple Correlation Coefficient) 又稱多元相關(guān)系數(shù),表示模型中所有自變量xi間與反應(yīng)變量y之間線性回歸關(guān)系的密切程度大小。實(shí)際上它是Yi 與其估計(jì)值的簡(jiǎn)單線性相關(guān)系數(shù),即Pearson 相關(guān)系數(shù)。但其取值范圍為(0 ,1),沒(méi)有負(fù)值。R 值越大,說(shuō)明線性回歸關(guān)系越密切。但R值直大至多少才算足夠好?不同學(xué)科的研究其判斷標(biāo)準(zhǔn)也不一樣。如社會(huì)科學(xué)研究學(xué)者可能認(rèn)為R >0.4 己經(jīng)足夠好了(想想對(duì)股價(jià)的預(yù)測(cè)吧) ,而醫(yī)學(xué)研究學(xué)者認(rèn)為R =0.8 仍嫌偏小,這可能是因?yàn)樯鐣?huì)科學(xué)研究中存在較多的對(duì)反應(yīng)變量確有影響卻無(wú)法進(jìn)行測(cè)量的變量,當(dāng)然也就無(wú)法對(duì)其進(jìn)行統(tǒng)計(jì)分析。此外,用復(fù)相關(guān)系數(shù)評(píng)價(jià)多元線性回歸模型優(yōu)劣時(shí)存在不足,即使向模型中增加的變量沒(méi)有統(tǒng)計(jì)學(xué)意義, R 值仍會(huì)增大。
2. 決定系數(shù)R2
模型的決定系數(shù)(Determinate Coefficient) 等于復(fù)相關(guān)系數(shù)的平方。與簡(jiǎn)單線性回歸中的決定系數(shù)相類似,它表示反應(yīng)變量y 的總變異中可由回歸模型中自變量解釋的部分所占的比例,是衡量所建立模型效果好壞的指標(biāo)之一。顯然, R2 越大越好,但是也存在與復(fù)相關(guān)系數(shù)一樣的不足。決定系數(shù)的計(jì)算公式如下:
3. 校正的決定系數(shù)R_adj^2
由于用R2評(píng)價(jià)擬合模型的好壞具有一定的局限性,即使向模型中增加的變量沒(méi)有統(tǒng)計(jì)學(xué)意義, R2值仍會(huì)增大。因此需對(duì)其進(jìn)行校正,從而形成了校正的決定系數(shù)(Adjusted R Square) 。 校正的決定系數(shù)總小于決定系數(shù)。校正的決定系數(shù)公式如下:
與R2不同的是,當(dāng)模型中增加的變量沒(méi)有統(tǒng)計(jì)學(xué)意義時(shí),校正決定系數(shù)會(huì)減小,因此校正R2 是衡量所建模型好壞的重要指標(biāo)之一,校正R2 越大,模型擬合得越好。但當(dāng)p/n 很小時(shí),如小于0.05 時(shí),校正作用趨于消失。
實(shí)際應(yīng)用中,R2、R_adj^2值的大小還與研究中實(shí)際觀測(cè)到的自變量取值范圍有關(guān),一種可能的情況是,某個(gè)實(shí)際觀測(cè)的自變量取值范圍很窄,但此時(shí)所建模型的R2 很大,但這并不代表模型在外推應(yīng)用時(shí)的效果肯定會(huì)很好。此外,有時(shí)雖然校正決定系數(shù)(或決定系數(shù))很大,但誤差均方仍很大,這會(huì)導(dǎo)致估計(jì)的?可信區(qū)間很寬,從而失去實(shí)際應(yīng)用價(jià)值。
4. 剩余標(biāo)準(zhǔn)差
剩余標(biāo)準(zhǔn)差(Std. Error Of The Estimate) ,等于誤差均方MSE 的算術(shù)平方根,就是殘差之標(biāo)準(zhǔn)差,其大小反應(yīng)了用建立的模型預(yù)測(cè)因變量時(shí)的精度。剩余標(biāo)準(zhǔn)差越小,說(shuō)明建立的模型效果越好。與校正決定系數(shù)相類似地,當(dāng)模型中增加無(wú)統(tǒng)計(jì)學(xué)意義的自變量時(shí),剩余標(biāo)準(zhǔn)差反而會(huì)增大。此外,剩余標(biāo)準(zhǔn)差還在因變量估值的可信區(qū)間估計(jì)、自變量的選擇等很多方面有著重要作用。
上面介紹的4項(xiàng)可以在SPSS軟件上直接輸出,除此之外還有一些常用的衡量多元回歸模型優(yōu)劣的標(biāo)準(zhǔn)在這里點(diǎn)一下,有興趣的讀者可參考相關(guān)參考書(shū)。
5、赤池信息準(zhǔn)則
赤池信息準(zhǔn)則也被稱為AIC 準(zhǔn)則(Akaike’s Information Criterion) ,由日本學(xué)者赤池于1973年提出,除應(yīng)用于一般線性模型、廣義線性模型的變量篩選外,還被應(yīng)用于時(shí)間序列分析中自回歸階數(shù)的確定。AIC 由兩部分組成,一部分反映模型的擬合精度,一部分反映了模型中參數(shù)的個(gè)數(shù),即模型的繁簡(jiǎn)程度。其計(jì)算公式為:
n 為樣本含量,與前面走義不同的是,這里的p 為模型中參數(shù)個(gè)數(shù)(包括常數(shù)項(xiàng)) ,L 為模型的最大似然函數(shù)。一昧地增加模型中自變量的個(gè)數(shù)雖然能使前半部分減小,而后一部分卻不斷增大,當(dāng)模型中納入無(wú)統(tǒng)計(jì)學(xué)意義的自變量時(shí),前半部分減小的幅度小于后一部分增大的幅度,虧本的生意當(dāng)然沒(méi)人去做。AIC 值越小,說(shuō)明擬合的模型既精度高又簡(jiǎn)潔。
應(yīng)用不同的方法擬合的回歸模型其AIC 值是不一樣的,因此,在應(yīng)用AIC 準(zhǔn)則對(duì)不同的模型進(jìn)行比較時(shí),不同擬合方法得到的模型不能進(jìn)行比較,AIC 準(zhǔn)則只能用于比較同一種方法擬合得到的回歸模型。
6、C_p 統(tǒng)計(jì)量
Cp 統(tǒng)計(jì)量由C. L. Mallows 于1964 年提出。
MSE_p 指模型中含有p 個(gè)參數(shù)(包括常數(shù)項(xiàng))時(shí)的誤差均方, MSE_p 為所有自變量均引入模型時(shí)的誤差均方。用Cp 統(tǒng)計(jì)量選擇模型的標(biāo)準(zhǔn)是選擇Cp 最接近p 的那個(gè)模型。
7、其他標(biāo)準(zhǔn)
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門(mén)控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書(shū)考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03