主成分分析法及其在SPSS中的操作

一、主成分分析基本原理

概念：主成分分析是把原來(lái)多個(gè)變量劃為少數(shù)幾個(gè)綜合指標(biāo)的一種統(tǒng)計(jì)分析方法。從數(shù)學(xué)角度來(lái)看，這是一種降維處理技術(shù)。

思路：一個(gè)研究對(duì)象，往往是多要素的復(fù)雜系統(tǒng)。變量太多無(wú)疑會(huì)增加分析問(wèn)題的難度和復(fù)雜性，利用原變量之間的相關(guān)關(guān)系，用較少的新變量代替原來(lái)較多的變量，并使這些少數(shù)變量盡可能多的保留原來(lái)較多的變量所反應(yīng)的信息，這樣問(wèn)題就簡(jiǎn)單化了。

原理：假定有n個(gè)樣本，每個(gè)樣本共有p個(gè)變量，構(gòu)成一個(gè)n×p階的數(shù)據(jù)矩陣，

?x11?x21?X??????xn1x12x22?xn2???x1p??x2p????xnp??

記原變量指標(biāo)為x1，x2，?，xp，設(shè)它們降維處理后的綜合指標(biāo)，即新變量為 z1，z2，z3，? ，zm(m≤p)，則

系數(shù)lij的確定原則：

①zi與zj（i≠j；i，j=1，2，?，m）相互無(wú)關(guān)；

②z1是x1，x2，?，xP的一切線性組合中方差最大者，z2是與z1不相關(guān)的x1，x2，?，xP的所有線性組合中方差最大者； zm是與z1，z2，??，zm－1都不相關(guān)的x1，x2，?xP ， 的所有線性組合中方差最大者。

新變量指標(biāo)z1，z2，?，zm分別稱為原變量指標(biāo)x1，x2，?，xP的第1，第2，?，第m主成分。

從以上的分析可以看出，主成分分析的實(shí)質(zhì)就是確定原來(lái)變量xj（j=1，2 ，?， p）在諸主成分zi（i=1，2，?，m）上的荷載 lij（ i=1，2，?，m； j=1，2 ，?，p）。 ?z1?l11x1?l12x2???l1pxp??z2?l21x1?l22x2???l2pxp?............??z?lx?lx???lxm11m22mpp?m

從數(shù)學(xué)上可以證明，它們分別是相關(guān)矩陣m個(gè)較大的特征值所對(duì)應(yīng)的特征向量。

二、主成分分析的計(jì)算步驟 1、計(jì)算相關(guān)系數(shù)矩陣

?r11

?r21?R??????rp1

r12r22?rp2

???

r1p?

?r2p

????rpp??

rij（i，j=1，2，?，p）為原變量xi與xj的相關(guān)系數(shù)， rij=rji，其計(jì)算公式為

n

rij?

n

?(x

k?1

ki

?i)(xkj?j)

n2

?(x

k?1

ki

?i)

?(x

k?1

kj

?j)

2

2、計(jì)算特征值與特征向量

I? R ?0 ，常用雅可比法（Jacobi）求出特征值，并使其按大解特征方程 ?

?1??2????p?0； 小順序排列

p

2

ei(i?1,2,L,p)?i的特征向量 ei

分別求出對(duì)應(yīng)于特征值 ，即? eij?1

j?1

eij表示向量 ei的第j個(gè)分量。 其中

3、計(jì)算主成分貢獻(xiàn)率及累計(jì)貢獻(xiàn)率

貢獻(xiàn)率：

?i

p

(i?1,2,L,p)

k

i

??

k?1

??

累計(jì)貢獻(xiàn)率：

k?1

p

k

(i?1,2,L,p)

k

??

k?1

?1,?2,L,?m所對(duì)應(yīng)的第1、第一般取累計(jì)貢獻(xiàn)率達(dá)85%-95%的特征值，

2、?、第m（m≤p）個(gè)主成分。 4、計(jì)算主成分載荷

lij?p(zi,xj)?

?ieij(i,j?1,2,L,p)

5、各主成分得分

?z11?z21?Z?????zn1z12z22?zn2???z1m??z2m????znm?

三、主成分分析法在SPSS中的操作

1、指標(biāo)數(shù)據(jù)選取、收集與錄入（表1）

2、Analyze →Data Reduction →Factor Analysis，彈出Factor Analysis 對(duì)話框：

3、把指標(biāo)數(shù)據(jù)選入Variables 框，Descriptives: Correlation Matrix 框組中選中Coefficients,然后點(diǎn)擊Continue, 返回Factor Analysis 對(duì)話框，單擊OK。

注意：SPSS 在調(diào)用Factor Analyze 過(guò)程進(jìn)行分析時(shí), SPSS 會(huì)自動(dòng)對(duì)原始數(shù)據(jù)進(jìn)行標(biāo)

準(zhǔn)化處理, 所以在得到計(jì)算結(jié)果后的變量都是指經(jīng)過(guò)標(biāo)準(zhǔn)化處理后的變量, 但SPSS 并不直接給出標(biāo)準(zhǔn)化后的數(shù)據(jù), 如需要得到標(biāo)準(zhǔn)化數(shù)據(jù), 則需調(diào)用Descriptives 過(guò)程進(jìn)行計(jì)算。

從表3 可知GDP 與工業(yè)增加值, 第三產(chǎn)業(yè)增加值、固定資產(chǎn)投資、基本建設(shè)投資、社會(huì)消費(fèi)品零售總額、地方財(cái)政收入這幾個(gè)指標(biāo)存在著極其顯著的關(guān)系, 與海關(guān)出口總額存在著顯著關(guān)系。可見許多變量之間直接的相關(guān)性比較強(qiáng), 證明他們存在信息上的重疊。

主成分個(gè)數(shù)提取原則為主成分對(duì)應(yīng)的特征值大于1的前m個(gè)主成分。特征值在某種程度上可以被看成是表示主成分影響力度大小的指標(biāo), 如果特征值小于1, 說(shuō)明該主成分的解釋力度還不如直接引入一個(gè)原變量的平均解釋力度大, 因此一般可以用特征值大于1作為納入標(biāo)準(zhǔn)。通過(guò)表4( 方差分解主成分提取分析) 可知, 提取2個(gè)主成分, 即m=2, 從表5( 初始因子載荷矩陣) 可知GDP、工業(yè)增加

值、第三產(chǎn)業(yè)增加值、固定資產(chǎn)投資、基本建設(shè)投資、社會(huì)消費(fèi)品零售總額、海關(guān)出口總額、地方財(cái)政收入在第一主成分上有較高載荷, 說(shuō)明第一主成分基本反映了這些指標(biāo)的信息; 人均GDP 和農(nóng)業(yè)增加值指標(biāo)在第二主成分上有較高載荷, 說(shuō)明第二主成分基本反映了人均GDP 和農(nóng)業(yè)增加值兩個(gè)指標(biāo)的信息。所以提取兩個(gè)主成分是可以基本反映全部指標(biāo)的信息, 所以決定用兩個(gè)新變量來(lái)代替原來(lái)的十個(gè)變量。但這兩個(gè)新變量的表達(dá)還不能從輸出窗口中直接得到, 因?yàn)?

“Component Matrix”是指初始因子載荷矩陣, 每一個(gè)載荷量表示主成分與對(duì)應(yīng)變量的相關(guān)系數(shù)。

用表5( 主成分載荷矩陣) 中的數(shù)據(jù)除以主成分相對(duì)應(yīng)的特征值開平方根便得到兩個(gè)主成分中每個(gè)指標(biāo)所對(duì)應(yīng)的系數(shù)。將初始因子載荷矩陣中的兩列數(shù)據(jù)輸入( 可用復(fù)制粘貼的方法) 到數(shù)據(jù)編輯窗口( 為變量B1、B2) , 然后利用“Transform→Compute Variable”, 在Compute Variable對(duì)話框中輸入

“A1=B1/SQR(7.22)”[注: 第二主成分SQR后的括號(hào)中填1.235, 即可得到特征向量A1(見表6)。同理, 可得到特征向量A2。將得到的特征向量與標(biāo)準(zhǔn)化后的數(shù)據(jù)相乘, 然后就可以得出主成分表達(dá)式[注: 因本例只是為了說(shuō)明如何在SPSS 進(jìn)行主成分分析, 故在此不對(duì)提取的主成分進(jìn)行命名, 有興趣的讀者可自行命名。

標(biāo)準(zhǔn)化：通過(guò)Analyze→Descriptive Statistics→Descriptives 對(duì)話框來(lái)實(shí)現(xiàn): 彈出Descriptives 對(duì)話框后, 把X1～X10 選入Variables 框, 在Save standardized values as variables 前的方框打上鉤, 點(diǎn)擊“OK”, 經(jīng)標(biāo)準(zhǔn)化的數(shù)據(jù)會(huì)自動(dòng)填入數(shù)據(jù)窗口中, 并以Z開頭命名。

以每個(gè)主成分所對(duì)應(yīng)的特征值占所提取主成分總的特征值之和的比例作為權(quán)重計(jì)算主成分綜合模型, 即用第一主成分F1 中每個(gè)指標(biāo)所對(duì)應(yīng)的系數(shù)乘上第一主成分F1 所對(duì)應(yīng)的貢獻(xiàn)率再除以所提取兩個(gè)主成分的兩個(gè)貢獻(xiàn)率之和, 然后加上第二主成分F2 中每個(gè)指標(biāo)所對(duì)應(yīng)的系數(shù)乘上第二主成分F2 所對(duì)應(yīng)的貢獻(xiàn)率再除以所提取兩個(gè)主成分的兩個(gè)貢獻(xiàn)率之和, 即可得到綜合得分模型

:

根據(jù)主成分綜合模型即可計(jì)算綜合主成分值, 并對(duì)其按綜合主成分值進(jìn)行

排序, 即可對(duì)各地區(qū)進(jìn)行綜合評(píng)價(jià)比較, 結(jié)果見表8。