主成分分析(Principal components analysis,PCA)基本原理:利用降維(線性變換)的思想,在損失很少信息的前提下把多個(gè)指標(biāo)轉(zhuǎn)化為幾個(gè)不相關(guān)的綜合指標(biāo)(主成分),即每個(gè)主成分都是原始變量的線性組合,且各個(gè)主成分之間互不相關(guān),使得主成分比原始變量具有某些更優(yōu)越的性能(主成分必須保留原始變量90%以上的信息),從而達(dá)到簡(jiǎn)化系統(tǒng)結(jié)構(gòu),抓住問(wèn)題實(shí)質(zhì)的目的。
因子分析(Factor Analysis,F(xiàn)A)基本原理:利用降維的思想,由研究原始變量相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā),把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量表示成少數(shù)的公共因子和僅對(duì)某一個(gè)變量有作用的特殊因子線性組合而成。就是要從數(shù)據(jù)中提取對(duì)變量起解釋作用的少數(shù)公共因子(因子分析是主成分的推廣,相對(duì)于主成分分析,更傾向于描述原始變量之間的相關(guān)關(guān)系)。
1、線性表示方向不同
因子分析是把變量表示成各公因子的線性組合;主成分分析中則是把主成分表示成各變量的線性組合。
2、假設(shè)條件不同
主成分分析:不需要有假設(shè)(assumptions);
因子分析:需要一些假設(shè)。因子分析的假設(shè)包括:各個(gè)共同因子之間不相關(guān),特殊因子(specificfactor)之間也不相關(guān),共同因子和特殊因子之間也不相關(guān)。
3、求解方法不同
(1)求解主成分的方法:
從協(xié)方差陣出發(fā)(協(xié)方差陣已知),從相關(guān)陣出發(fā)(相關(guān)陣R已知),采用的方法只有主成分法。(實(shí)際研究中,總體協(xié)方差陣與相關(guān)陣是未知的,必須通過(guò)樣本數(shù)據(jù)來(lái)估計(jì));
注意事項(xiàng):由協(xié)方差陣出發(fā)與由相關(guān)陣出發(fā)求解主成分所得結(jié)果不一致時(shí),要恰當(dāng)?shù)倪x取某一種方法;
一般當(dāng)變量單位相同或者變量在同一數(shù)量等級(jí)的情況下,可以直接采用協(xié)方差陣進(jìn)行計(jì)算;對(duì)于度量單位不同的指標(biāo)或是取值范圍彼此差異非常大的指標(biāo),應(yīng)考慮將數(shù)據(jù)標(biāo)準(zhǔn)化,再由協(xié)方差陣求主成分。
實(shí)際應(yīng)用中應(yīng)該盡可能的避免標(biāo)準(zhǔn)化,因?yàn)樵跇?biāo)準(zhǔn)化的過(guò)程中會(huì)抹殺一部分原本刻畫變量之間離散程度差異的信息。此外,最理想的情況是主成分分析前的變量之間相關(guān)性高,且變量之間不存在多重共線性問(wèn)題(會(huì)出現(xiàn)最小特征根接近0的情況);
2)求解因子載荷的方法:
主成分法,主軸因子法,極大似然法,最小二乘法,a因子提取法。
4、主成分和因子的變化不同
主成分分析:當(dāng)給定的協(xié)方差矩陣或者相關(guān)矩陣的特征值唯一時(shí),主成分一般是固定的獨(dú)特的;
因子分析:因子不是固定的,可以旋轉(zhuǎn)得到不同的因子。
5、因子數(shù)量與主成分的數(shù)量
主成分分析:主成分的數(shù)量是一定的,一般有幾個(gè)變量就有幾個(gè)主成分(只是主成分所解釋的信息量不等),實(shí)際應(yīng)用時(shí)會(huì)根據(jù)碎石圖提取前幾個(gè)主要的主成分。
因子分析:因子個(gè)數(shù)需要分析者指定(SPSS和SAS根據(jù)一定的條件自動(dòng)設(shè)定,只要是特征值大于1的因子主可進(jìn)入分析),指定的因子數(shù)量不同而結(jié)果也不同;
6、解釋重點(diǎn)不同
主成分分析:重點(diǎn)在于解釋個(gè)變量的總方差;因子分析:則把重點(diǎn)放在解釋各變量之間的協(xié)方差。
7、算法上的不同
主成分分析:協(xié)方差矩陣的對(duì)角元素是變量的方差;
因子分析:所采用的協(xié)方差矩陣的對(duì)角元素不在是變量的方差,而是和變量對(duì)應(yīng)的共同度(變量方差中被各因子所解釋的部分)。








暫無(wú)數(shù)據(jù)