一、具體方法

1.主成分分析的具體方法

主成分分析是一類常用的針對連續(xù)變量的降維方法，選取能夠最大化解釋數據變異的成分，將數據從高維降到低維，同時 保證各個維度之間正交。 對變量的協方差矩陣或相關系數矩陣求取特征值和特征向量，經證明，對應最大特征值的特征向量，其方向正是協方差矩 陣變異最大的方向。依次類推，第二大特征值對應的特征向量，是與第一個特征向量正交且能最大程度解釋數據剩余變異 的方向，而每個特征值則能夠衡量各方向上變異的程度。因此，進行主成分分析時，選取最大的幾個特征值對應的特征向 量，并將數據映射在這幾個特征向量組成的參考系中，達到降維的目的（選擇的特征向量數量低于原始數據的維數）。

二、算法解析

1.主成分分析算法解析

主成分分析算法認為，數據的信息是包含在其方差當中的，如果一個隨機變量的方差很小，說明其不確定性較低，或者說即便我們沒有獲 得這個變量的抽樣值，也幾乎可以用一個確定的值（例如其期望值）來代替它，因此引入它只能消除很少的不確定性，即該變量包含的信 息較少。相反，一個方差很大的變量，如果能夠獲得它的抽樣值，則可以幫助我們消除很大一部分不確定性，因此它包含的信息較多。 從主成分分析的觀點出發(fā)，我們就知道下圖中投影到哪個軸更加合適了，顯然將原始坐標軸旋轉到左圖當中的U1位置更好，因為數據在 這個方向上的變異（方差）更大，而樣本在右圖的U1方向顯然變異更?。▓D中陰影用于示意離散程度，并不代表方差大小）。

我們的目標是優(yōu)化上式，求滿足該函數最大化的 u，可以使用拉格朗日乘數法，即求滿足下式最大的 u：

我們的目標是優(yōu)化上式，求滿足該函數最大化的 u，可以使用拉格朗日乘數法，即求滿足下式最大的 u：

三、應用

1.何時采用相關系數計算方法和協方差矩陣計算方法

在實際研究中，有時單個指標的方差對研究目的起關鍵作用，為了達到研究目的，此時用協方差矩陣進行主成分分析恰 到好處。相關系數矩陣就是隨機變量標準化后的協方差矩陣。通過隨機變量的標準化，相關系數矩陣剝離了單個指標的 方差,僅保留指標間的相關性,用相關系數矩陣計算主成分，其優(yōu)勢效應僅體現在相關性大、相關指標數多的一類指標上。

2.主成分法的應用

大致分為三個方面：

（1）對數據做綜合打分

（2）降維以便對數據進行描述

（3）為聚類或回歸等分析提供變量壓縮 在應用時要能夠判斷主成分法的適用性，能夠根據需求選取合適的主成分數量。

四、例題精講

1.主成分分析計算在選擇相關系數計算法時，確定主成分個數的大致原則包括（ ）?

A.特征根值大于1

B. 特征根值大于0.5

C.累積特征根值加總占總特征根值的80%以上

D. 累積特征根值加總占總特征根值的50%以上

答案：AC 解析：主成分分析主要考核得到軟件的計算結果后如何選擇主成分個數，由于主成分一般不具有 明確的意義，因此不考核主成分的解釋，這會放在因子分析考核。該題是一個很標準的題目，答 案可以從任何一本教科書上找到。請注意題干中的“大致原則”，說明該原則在不同的運用場合 下選擇標準會略有改變

2.主成分分析計算分為根據相關系數和協方差矩陣兩種方式，以下哪種情況適合用相關系數計算（ ）?

A.變量的量綱不同

B. 變量的方差不同

C. 變量的標準差不同

D. 變量的均值不同