
作者:丁點helper
來源:丁點幫你
前面的文章主要介紹了回歸的一些關(guān)鍵詞,比如回歸系數(shù)、樣本和總體回歸方程、預(yù)測值和殘差等,今天我們結(jié)合一個案例來看看如何做完整的回歸分析,準確而言,是多重線性回歸(Multiple Linear Regreesion)。
回顧:多重線性回歸
多重線性回歸,一般是指有多個自變量X,只有一個因變量Y。前面我們主要是以簡單線性回歸為例在介紹,兩者的差距主要在于自變量X的數(shù)量,在只有一個X時,就稱簡單線性回歸。
在實際應(yīng)用中,我們當(dāng)然很少只納入一個自變量。多重線性回歸一般也叫“多元線性回歸”,我更支持“多重”的叫法,因為“多元”一般也指“因變量Y”有多個。
通過前面的文章,我們知道做線性回歸就是要構(gòu)建Y與X的線性關(guān)系,主要目的有兩個,一是確定X對Y的影響程度(即回歸系數(shù)的計算);二是通過X來預(yù)測Y。
這里最重要的一條準則是:Y需要是定量變量,就是類似于“收入”、“得分”等。而對X沒有這樣的要求,可以是定量的,如“教育年限”、“年齡”等;也可以是“性別”、“民族”等分類變量。
案例 從某高校三年級女生體檢的數(shù)據(jù)中,隨機抽取20名作為樣本,數(shù)據(jù)包括體重(kg)、胸圍(cm)、肩寬(cm)及肺活量(L),分析女大學(xué)生肺活量的影響因素,數(shù)據(jù)見下表:
首先簡單看看上表的數(shù)據(jù),我們想要研究女生肺活量的影響因素,所以回歸的因變量為“肺活量(Y)”,根據(jù)常識和數(shù)據(jù),這里的Y是定量變量。
搜集的其他數(shù)據(jù)作為潛在的影響因素(X)納入回歸方程,分別是:體重、胸圍、肩寬。我們也能簡單就能判斷這三個自變量都是定量變量。
(對于變量類型如何判斷還不太了解的同學(xué),戳此回顧)
這里進行回歸分析,一是判斷這些X是否都會影響Y(總體回歸系數(shù)是否不為0);二是通過構(gòu)造的回歸方程,未來根據(jù)X的值計算Y的預(yù)測值。
多重線性回歸的SPSS操作
回歸分析用SPSS操作的步驟如下:
SPSS數(shù)據(jù)錄入格式
回歸操作窗口,Dependent為因變量,Independent為自變量,分別移入
上圖中的“Method”稱作“自變量篩選”方法,我們做線性回歸分析很重要的一點是找Y的影響因素,這里的“找”就意味著“篩選”。
比如本案例我們納入了三個自變量,通過回歸分析,就是要找到那些真正對Y產(chǎn)生影響的變量。最終的結(jié)果有可能三個X都有影響,則最終的回歸方程會有三個X,也有可能一個X都沒有。
我們看到Method的下拉菜單有不同的選項:
Enter:將自變量強行全部納入回歸方程,不排除回歸系數(shù)P值大于0.05的情況;
Stepwise、Remove、Backward、Forward,這些都是軟件篩選自變量的方法,雖然名稱不一,但思想相近,主要就是根據(jù)回歸系數(shù)檢驗的P值是否小于0.05(有的是0.1)判斷回歸方程中應(yīng)不應(yīng)該有這個變量。
一般來講,沒有哪個篩選方法最優(yōu),但實際應(yīng)用中常見的是Stepwise和Backward,建議大家自己進行回歸分析時可以更換不同的方法嘗試,選擇自己認為合適的方法。
本案例使用Stepwise法,中文稱為“逐步法”或“步進法”。
多重線性回歸的結(jié)果分析
以下為SPSS分析結(jié)果展示:
表1:回歸方程的擬合程度
上表最左側(cè)一列為“Model”,表示的是SPSS篩選變量的過程,因為我們選擇的是stepwise,所以每進行一步,即每篩選一個變量,就稱為一個Model,比如Model"1"表示只納入1個自變量,Model“2”表示納入2個,“3”表示納入3個,”4“表示最終模型剔除了一個自變量,僅納入2個自變量。
表格第2-4列分別為”R、R Square、Adjusted R Square“,一般的教科書講的很多,表示的是回歸方程對因變量的解釋程度,數(shù)值越大,解釋度越高。但它又是一個比較尷尬的數(shù),實際應(yīng)用簡單參考即可。
表2:回歸方程的整體檢驗
這里的Model和上表1中表示的是同一個意思,代表了包括不同自變量的回歸方程。對于回歸方程的檢驗,一般來講,都是有統(tǒng)計學(xué)意義的,看最后一列(Sig.),即P值均小于0.05。
表3:回歸系數(shù)結(jié)果
表3中的Model詳細展示了變量的篩選過程,比如在Model 3中,回歸方程將三個自變量”肩寬、體重、胸圍“全部納入,但是發(fā)現(xiàn),”肩寬“這個變量的Sig.(P值)大于0.1了,于是就將它剔除出去,從而得到模型4——只納入”體重和胸圍“兩個自變量,對照后面的P值結(jié)果,均小于0.05。
以上只是一種篩選變量的一種方法(Stepwise),通過統(tǒng)計軟件P值自動進行,這并不意味,所有的線性回歸分析均只能通過這種方法篩選,我們常說需要結(jié)合專業(yè)知識判斷,在做回歸分析時也不例外。
如果回歸分析的結(jié)果與專業(yè)知識相悖,比如根據(jù)專業(yè)知識有影響的變量卻被軟件剔除,那我們首先得慎重思考回歸的結(jié)果是否可信,比如是否滿足前文提及的LINE條件,是否出現(xiàn)了多重共線性問題等等;如果經(jīng)過診斷分析發(fā)現(xiàn)這些問題都不存在,在研究報告或論文中,仍可以如實地報告結(jié)果,為后面的研究提供參考。
本案例,我們還是依照統(tǒng)計軟件的結(jié)果篩選變量,得到的最終回歸方程為:
根據(jù)上表,我們寫出本研究的回歸方程:
上述結(jié)果表示,可以認為體重和胸圍是影響該校一年級女大學(xué)生肺活量的主要因素,保持胸圍不變,體重增加1kg,估計肺活量平均增加0.081L(回歸系數(shù)”0.081“的含義,在多重線性回歸分析中也可稱作”偏回歸系數(shù)“);保持體重不變,胸圍增大1cm,估計肺活量平均增加0.046L(回歸系數(shù)”0.046“的含義)。
另外,上表最后一列提供了一個”標準化偏回歸系數(shù)“,這是將XY分別標準化之后再進行回歸分析,如下:
”標準化偏回歸系數(shù)“可以用來比較不同的自變量X對Y的影響程度。本例中,體重和胸圍的標準化偏回歸系數(shù)分別為0.644和0.436,意味著體重對肺活量的影響大于胸圍對肺活量的影響。
以上即為回歸分析的全過程,最后留給大家一個思考題,這里進行的分析,表示的是X和Y的相關(guān)關(guān)系,還是因果關(guān)系?歡迎在評論區(qū)留言討論。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10CDA 數(shù)據(jù)分析師:商業(yè)數(shù)據(jù)分析實踐的落地者與價值創(chuàng)造者 商業(yè)數(shù)據(jù)分析的價值,最終要在 “實踐” 中體現(xiàn) —— 脫離業(yè)務(wù)場景的分 ...
2025-09-10機器學(xué)習(xí)解決實際問題的核心關(guān)鍵:從業(yè)務(wù)到落地的全流程解析 在人工智能技術(shù)落地的浪潮中,機器學(xué)習(xí)作為核心工具,已廣泛應(yīng)用于 ...
2025-09-09SPSS 編碼狀態(tài)區(qū)域中 Unicode 的功能與價值解析 在 SPSS(Statistical Product and Service Solutions,統(tǒng)計產(chǎn)品與服務(wù)解決方案 ...
2025-09-09