SPSS分析技術(shù):線性回歸分析

相關(guān)分析可以揭示事物之間共同變化的一致性程度，但它僅僅只是反映出了一種相關(guān)關(guān)系，并沒(méi)有揭示出變量之間準(zhǔn)確的可以運(yùn)算的控制關(guān)系，也就是函數(shù)關(guān)系，不能解決針對(duì)未來(lái)的分析與預(yù)測(cè)問(wèn)題。

回歸分析就是分析變量之間隱藏的內(nèi)在規(guī)律，并建立變量之間函數(shù)變化關(guān)系的一種分析方法，回歸分析的目標(biāo)就是建立由一個(gè)因變量和若干自變量構(gòu)成的回歸方程式，使變量之間的相互控制關(guān)系通過(guò)這個(gè)方程式描述出來(lái)。

回歸方程式不僅能夠解釋現(xiàn)在個(gè)案內(nèi)部隱藏的規(guī)律，明確每個(gè)自變量對(duì)因變量的作用程度。而且，基于有效的回歸方程，還能形成更有意義的數(shù)學(xué)方面的預(yù)測(cè)關(guān)系。因此，回歸分析是一種分析因素變量對(duì)因變量作用強(qiáng)度的歸因分析，它還是預(yù)測(cè)分析的重要基礎(chǔ)。

回歸分析類型

回歸分析根據(jù)自變量個(gè)數(shù)，自變量?jī)绱我约白兞款愋涂梢苑譃楹芏囝愋?，常用的類型有?

線性回歸；

曲線回歸；

二元Logistic回歸技術(shù)；

線性回歸原理

回歸分析就是建立變量的數(shù)學(xué)模型，建立起衡量數(shù)據(jù)聯(lián)系強(qiáng)度的指標(biāo)，并通過(guò)指標(biāo)檢驗(yàn)其符合的程度。線性回歸分析中，如果僅有一個(gè)自變量，可以建立一元線性模型。如果存在多個(gè)自變量，則需要建立多元線性回歸模型。線性回歸的過(guò)程就是把各個(gè)自變量和因變量的個(gè)案值帶入到回歸方程式當(dāng)中，通過(guò)逐步迭代與擬合，最終找出回歸方程式中的各個(gè)系數(shù)，構(gòu)造出一個(gè)能夠盡可能體現(xiàn)自變量與因變量關(guān)系的函數(shù)式。在一元線性回歸中，回歸方程的確立就是逐步確定唯一自變量的系數(shù)和常數(shù)，并使方程能夠符合絕大多數(shù)個(gè)案的取值特點(diǎn)。在多元線性回歸中，除了要確定各個(gè)自變量的系數(shù)和常數(shù)外，還要分析方程內(nèi)的每個(gè)自變量是否是真正必須的，把回歸方程中的非必需自變量剔除。

名詞解釋

線性回歸方程：一次函數(shù)式，用于描述因變量與自變量之間的內(nèi)在關(guān)系。根據(jù)自變量的個(gè)數(shù)，可以分為一元線性回歸方程和多元線性回歸方程。

觀測(cè)值：參與回歸分析的因變量的實(shí)際取值。對(duì)參與線性回歸分析的多個(gè)個(gè)案來(lái)講，它們?cè)谝蜃兞可系娜≈担褪怯^測(cè)值。觀測(cè)值是一個(gè)數(shù)據(jù)序列，也就是線性回歸分析過(guò)程中的因變量。

回歸值：把每個(gè)個(gè)案的自變量取值帶入回歸方程后，通過(guò)計(jì)算所獲得的數(shù)值。在回歸分析中，針對(duì)每個(gè)個(gè)案，都能獲得一個(gè)回歸值。因此，回歸值也是一個(gè)數(shù)據(jù)序列，回歸值的數(shù)量與個(gè)案數(shù)相同。在線性回歸分析中，回歸值也常常被稱為預(yù)測(cè)值，或者期望值。

殘差：殘差是觀測(cè)值與回歸值的差。殘差反映的是依據(jù)回歸方程所獲得的計(jì)算值與實(shí)際測(cè)量值的差距。在線性回歸中，殘差應(yīng)該滿足正態(tài)分布，而且全體個(gè)案的殘差之和為0。

回歸效果評(píng)價(jià)

在回歸分析的評(píng)價(jià)中，通常使用全部殘差的平方之和表示殘差的量度，而以全體回歸值的平方之和表示回歸的量度。通常有以下幾個(gè)評(píng)價(jià)指標(biāo)：

判定系數(shù)

為了能夠比較客觀的評(píng)價(jià)回歸方程的質(zhì)量，引入判定系數(shù)R方的概念：

判定系數(shù)R方的值在0~1之間，其值越接近1，表示殘差的比例越低，即回歸方程的擬合程度越高，回歸值越能貼近觀測(cè)值，更能體現(xiàn)觀測(cè)數(shù)據(jù)的內(nèi)在規(guī)律。在一般的應(yīng)用中，R方大于0.6就表示回歸方程有較好的質(zhì)量。

F值

F值是回歸分析中反映回歸效果的重要指標(biāo)，它以回歸均方和與殘差均方和的比值表示，即F=回歸均方和/殘差均方和，在一般的線性回歸中，F(xiàn)值應(yīng)該在3.86以上。

T值

T值是回歸分析中反映每個(gè)自變量的作用力的重要指標(biāo)。在回歸分析時(shí)，每個(gè)自變量都有自己的T值，T值以相應(yīng)自變量的偏回歸系數(shù)與其標(biāo)準(zhǔn)誤差的比值來(lái)表示。在一般的線性回歸分析中，T的絕對(duì)值應(yīng)該大于1.96。如果某個(gè)自變量的T值小于1.96，表示這個(gè)自變量對(duì)方程的影響力很小，應(yīng)該盡可能把它從方程中剔除。

檢驗(yàn)概率（Sig值）

回歸方程的檢驗(yàn)概率值共有兩種類型：整體Sig值和針對(duì)每個(gè)自變量的Sig值。整體的Sig值反映了整個(gè)方程的影響力，而針對(duì)自變量的Sig值則反映了該自變量在回歸方程中沒(méi)有作用的可能性。只有Sig值小于0.05，才表示有影響力。

案例分析（一元線性回歸）

現(xiàn)在有一份《大學(xué)生學(xué)習(xí)狀況》的數(shù)據(jù)，請(qǐng)分析作業(yè)情況與數(shù)學(xué)成績(jī)之間的關(guān)系，構(gòu)造回歸方程，并評(píng)價(jià)回歸分析的效果。

SPSS分析步驟

1、選擇菜單【分析】-【回歸】-【線性】命令，啟動(dòng)線性回歸命令。

2、將數(shù)學(xué)成績(jī)選為因變量，將作業(yè)情況選為自變量，點(diǎn)擊【確定】。

結(jié)果解釋

判定系數(shù)R方值為0.919，表示此回歸方程具有很好的質(zhì)量。

在方差分析表格中，顯著性為0.000，小于0.05，表示回歸方程具有很強(qiáng)的影響力，能夠很好的表達(dá)數(shù)學(xué)成績(jī)與作業(yè)情況的控制關(guān)系。

最后一個(gè)表格中的B列，常數(shù)為39.887，作業(yè)情況的系數(shù)為6.539，所以回歸方程為y=6.539x+39.887。

案例分析（多元線性回歸）

分析數(shù)學(xué)成績(jī)與專業(yè)、愛(ài)好、作業(yè)情況、上網(wǎng)時(shí)間和游戲時(shí)間之間的關(guān)系。

分析步驟

1、字符型數(shù)據(jù)數(shù)值化編碼，將愛(ài)好和專業(yè)進(jìn)行數(shù)值化編碼。

2、選擇踩踏【分析】-【回歸】-【線性】命令。

3、將數(shù)學(xué)成績(jī)選入因變量，將數(shù)值化后的愛(ài)好、專業(yè)以及上網(wǎng)時(shí)間、游戲時(shí)間、作業(yè)情況選為自變量。

4、在自變量下的選項(xiàng)框中選擇【逐步】，如下圖：

紅框內(nèi)選項(xiàng)含義：

輸入：對(duì)于用戶提供的所有自變量，回歸方程全部接納。

逐步：先檢查不在方程中的自變量，把F值最大（檢驗(yàn)概率最?。┣覞M足進(jìn)入條件的自變臉選入方程中，接著，對(duì)已經(jīng)進(jìn)入方程的自變量，查找滿足移出條件的自變量（F值最小且F檢驗(yàn)概率滿足移出條件）將其移出。

前進(jìn)：對(duì)于用戶提供的所有自變量，系統(tǒng)計(jì)算出所有自變量與因變量的相關(guān)系數(shù)，每次從尚未進(jìn)入方程的自變量組中選擇與因變量具有最強(qiáng)正或負(fù)相關(guān)系數(shù)的自變量進(jìn)入方程，然后檢驗(yàn)此自變量的影響力，直到?jīng)]有進(jìn)入方程的自變量都不滿足進(jìn)入方程的標(biāo)準(zhǔn)為止。

后退：對(duì)于用戶提供的所有自變量，先讓它們?nèi)繌?qiáng)行進(jìn)入方程，再逐個(gè)檢查，剔除不合格變量，直到方程中的所有變量都不滿足移出條件為止。

刪除：也叫一次性剔除方式，其思路是通過(guò)一次檢驗(yàn)，而后剔除全部不合格變量。這種方法不能單獨(dú)使用，通常建立在前面已經(jīng)構(gòu)造出初步的回歸方程的基礎(chǔ)上，與前面其他篩選方法結(jié)合使用。

結(jié)果解釋

1、第一個(gè)表格是輸入/移去變量表格；

即最后游戲時(shí)間和作業(yè)情況被納入到回歸方程當(dāng)中。

2、模型表格和方差分析表格。這兩個(gè)表格表明產(chǎn)生兩個(gè)回歸模型，這是游戲時(shí)間和作業(yè)情況依次進(jìn)入回歸過(guò)程之后的結(jié)果，且第二個(gè)回歸模型的R方值大于第一個(gè)，所以第二個(gè)回歸方程比較好。

3、系數(shù)表格；

采用第二個(gè)回歸模型是y=-0.743*x1+1.216*x2+97.729，x1代表游戲時(shí)間，x2代表作業(yè)情況。