
如何衡量多元線性回歸模型優(yōu)劣
最近再做一些多元回歸分析方面的分析,但對于得出的回歸模型的好壞不知道如何才判斷,于是查找了一下相關(guān)的教材書籍,找到了張文彤老師寫的《SPSS統(tǒng)計分析高級教程》這本書,里面對于回歸模型的優(yōu)劣評價給出來了幾點看法,我在此做了摘錄分享一下。
當供建立回歸模型的自變量有p 個時,僅考慮各因素的主效應(yīng),可以建立2^P 個模型(包括僅含常數(shù)項的模型)。如果來衡量這些模型的好壞?常用有以下幾種標準:
1.復(fù)相關(guān)系數(shù)R
復(fù)相關(guān)系數(shù)(Multiple Correlation Coefficient) 又稱多元相關(guān)系數(shù),表示模型中所有自變量xi間與反應(yīng)變量y之間線性回歸關(guān)系的密切程度大小。實際上它是Yi 與其估計值的簡單線性相關(guān)系數(shù),即Pearson 相關(guān)系數(shù)。但其取值范圍為(0 ,1),沒有負值。R 值越大,說明線性回歸關(guān)系越密切。但R值直大至多少才算足夠好?不同學(xué)科的研究其判斷標準也不一樣。如社會科學(xué)研究學(xué)者可能認為R >0.4 己經(jīng)足夠好了(想想對股價的預(yù)測吧) ,而醫(yī)學(xué)研究學(xué)者認為R =0.8 仍嫌偏小,這可能是因為社會科學(xué)研究中存在較多的對反應(yīng)變量確有影響卻無法進行測量的變量,當然也就無法對其進行統(tǒng)計分析。此外,用復(fù)相關(guān)系數(shù)評價多元線性回歸模型優(yōu)劣時存在不足,即使向模型中增加的變量沒有統(tǒng)計學(xué)意義, R 值仍會增大。
2. 決定系數(shù)R2
模型的決定系數(shù)(Determinate Coefficient) 等于復(fù)相關(guān)系數(shù)的平方。與簡單線性回歸中的決定系數(shù)相類似,它表示反應(yīng)變量y 的總變異中可由回歸模型中自變量解釋的部分所占的比例,是衡量所建立模型效果好壞的指標之一。顯然, R2 越大越好,但是也存在與復(fù)相關(guān)系數(shù)一樣的不足。決定系數(shù)的計算公式如下:
3. 校正的決定系數(shù)R_adj^2
由于用R2評價擬合模型的好壞具有一定的局限性,即使向模型中增加的變量沒有統(tǒng)計學(xué)意義, R2值仍會增大。因此需對其進行校正,從而形成了校正的決定系數(shù)(Adjusted R Square) 。 校正的決定系數(shù)總小于決定系數(shù)。校正的決定系數(shù)公式如下:
與R2不同的是,當模型中增加的變量沒有統(tǒng)計學(xué)意義時,校正決定系數(shù)會減小,因此校正R2 是衡量所建模型好壞的重要指標之一,校正R2 越大,模型擬合得越好。但當p/n 很小時,如小于0.05 時,校正作用趨于消失。
實際應(yīng)用中,R2、R_adj^2值的大小還與研究中實際觀測到的自變量取值范圍有關(guān),一種可能的情況是,某個實際觀測的自變量取值范圍很窄,但此時所建模型的R2 很大,但這并不代表模型在外推應(yīng)用時的效果肯定會很好。此外,有時雖然校正決定系數(shù)(或決定系數(shù))很大,但誤差均方仍很大,這會導(dǎo)致估計的?可信區(qū)間很寬,從而失去實際應(yīng)用價值。
4. 剩余標準差
剩余標準差(Std. Error Of The Estimate) ,等于誤差均方MSE 的算術(shù)平方根,就是殘差之標準差,其大小反應(yīng)了用建立的模型預(yù)測因變量時的精度。剩余標準差越小,說明建立的模型效果越好。與校正決定系數(shù)相類似地,當模型中增加無統(tǒng)計學(xué)意義的自變量時,剩余標準差反而會增大。此外,剩余標準差還在因變量估值的可信區(qū)間估計、自變量的選擇等很多方面有著重要作用。
上面介紹的4項可以在SPSS軟件上直接輸出,除此之外還有一些常用的衡量多元回歸模型優(yōu)劣的標準在這里點一下,有興趣的讀者可參考相關(guān)參考書。
5、赤池信息準則
赤池信息準則也被稱為AIC 準則(Akaike’s Information Criterion) ,由日本學(xué)者赤池于1973年提出,除應(yīng)用于一般線性模型、廣義線性模型的變量篩選外,還被應(yīng)用于時間序列分析中自回歸階數(shù)的確定。AIC 由兩部分組成,一部分反映模型的擬合精度,一部分反映了模型中參數(shù)的個數(shù),即模型的繁簡程度。其計算公式為:
n 為樣本含量,與前面走義不同的是,這里的p 為模型中參數(shù)個數(shù)(包括常數(shù)項) ,L 為模型的最大似然函數(shù)。一昧地增加模型中自變量的個數(shù)雖然能使前半部分減小,而后一部分卻不斷增大,當模型中納入無統(tǒng)計學(xué)意義的自變量時,前半部分減小的幅度小于后一部分增大的幅度,虧本的生意當然沒人去做。AIC 值越小,說明擬合的模型既精度高又簡潔。
應(yīng)用不同的方法擬合的回歸模型其AIC 值是不一樣的,因此,在應(yīng)用AIC 準則對不同的模型進行比較時,不同擬合方法得到的模型不能進行比較,AIC 準則只能用于比較同一種方法擬合得到的回歸模型。
6、C_p 統(tǒng)計量
Cp 統(tǒng)計量由C. L. Mallows 于1964 年提出。
MSE_p 指模型中含有p 個參數(shù)(包括常數(shù)項)時的誤差均方, MSE_p 為所有自變量均引入模型時的誤差均方。用Cp 統(tǒng)計量選擇模型的標準是選擇Cp 最接近p 的那個模型。
7、其他標準
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10