統(tǒng)計(jì)之 - 協(xié)方差_數(shù)據(jù)分析師

協(xié)方差分析是建立在方差分析和回歸分析基礎(chǔ)之上的一種統(tǒng)計(jì)分析方法。方差分析是從質(zhì)量因子(qualitative)的角度探討因素的不同水平對(duì)實(shí)驗(yàn)指標(biāo)影響的差異。一般說(shuō)來(lái)，質(zhì)量因子是可以人為控制的。回歸分析是從數(shù)量因子(quantitative)的角度出發(fā)，通過(guò)建立回歸方程來(lái)研究實(shí)驗(yàn)指標(biāo)與一個(gè)（或幾個(gè)）因子之間的數(shù)量關(guān)系。但大多數(shù)情況下，數(shù)量因子是不可以人為加以控制的。

定義

在概率論和統(tǒng)計(jì)學(xué)中，協(xié)方差用于衡量?jī)蓚€(gè)變量的總體誤差，而方差是協(xié)方差的一種特殊情況，即當(dāng)兩個(gè)變量是相同的情況。在X和Y是獨(dú)立的情況下，期望值分別為E[X]與E[Y]的兩個(gè)實(shí)數(shù)隨機(jī)變量X與Y之間的協(xié)方差定義為：

直觀上來(lái)看，協(xié)方差表示的是兩個(gè)變量總體誤差的期望，或者更直白的說(shuō)協(xié)方差用于判定兩個(gè)變量的相互關(guān)聯(lián)性：

1. 如果兩個(gè)變量的變化趨勢(shì)一致，也就是說(shuō)如果其中一個(gè)大于自身的期望值時(shí)另外一個(gè)也大于自身的期望值，那么兩個(gè)變量之間的協(xié)方差就是正值

2. 如果兩個(gè)變量的變化趨勢(shì)相反，即其中一個(gè)變量大于自身的期望值時(shí)另外一個(gè)卻小于自身的期望值，那么兩個(gè)變量之間的協(xié)方差就是負(fù)值

3. 如果X與Y是統(tǒng)計(jì)獨(dú)立的，那么二者之間的協(xié)方差就是0，因?yàn)閮蓚€(gè)獨(dú)立的隨機(jī)變量滿足E[XY]=E[X]E[Y]。但是，反過(guò)來(lái)并不成立。即如果X與Y的協(xié)方差為0，二者并不一定是統(tǒng)計(jì)獨(dú)立的。

協(xié)方差Cov(X,Y)的度量單位是X的協(xié)方差乘以Y的協(xié)方差。而取決于協(xié)方差的相關(guān)性，是一個(gè)衡量線性獨(dú)立的無(wú)量綱的數(shù)。

協(xié)方差為0的兩個(gè)隨機(jī)變量稱為是不相關(guān)的。

協(xié)方差的屬性

兩個(gè)不同參數(shù)之間的方差就是協(xié)方差，若兩個(gè)隨機(jī)變量X和Y相互獨(dú)立，則E[(X-E(X))(Y-E(Y))]=0，因而若上述數(shù)學(xué)期望不為零，則X和Y必不是相互獨(dú)立的，亦即它們之間存在著一定的關(guān)系。

定義

E[(X-E(X))(Y-E(Y))]稱為隨機(jī)變量X和Y的協(xié)方差，記作Cov(X，Y)，即Cov(X，Y)=E[(X-E(X))(Y-E(Y))]。

協(xié)方差與方差之間有如下關(guān)系：

D(X+Y)=D(X)+D(Y)+2Cov(X，Y)

D(X-Y)=D(X)+D(Y)-2Cov(X，Y)

協(xié)方差與期望值有如下關(guān)系：

Cov(X，Y)=E(XY)-E(X)E(Y)。

協(xié)方差的性質(zhì)：

（1）Cov(X，Y)=Cov(Y，X)；

（2）Cov(aX，bY)=abCov(X，Y)，（a，b是常數(shù)）；

（3）Cov(X1+X2，Y)=Cov(X1，Y)+Cov(X2，Y)。

由協(xié)方差定義，可以看出Cov(X，X)=D(X)，Cov(Y，Y)=D(Y)。

http://www.3lll3.cn/

協(xié)方差作為描述X和Y相關(guān)程度的量，在同一物理量綱之下有一定的作用，但同樣的兩個(gè)量采用不同的量綱使它們的協(xié)方差在數(shù)值上表現(xiàn)出很大的差異。為此引入如下概念：

定義稱為隨機(jī)變量X和Y的相關(guān)系數(shù)。

定義

若ρXY=0，則稱X與Y不相關(guān)。

即ρXY=0的充分必要條件是Cov(X，Y)=0，亦即不相關(guān)和協(xié)方差為零是等價(jià)的。

定理

設(shè)ρXY是隨機(jī)變量X和Y的相關(guān)系數(shù)，則有

（1）∣ρXY∣≤1；

（2）∣ρXY∣=1充分必要條件為P{Y=aX+b}=1，（a，b為常數(shù)，a≠0）

定義

設(shè)X和Y是隨機(jī)變量，若E(X^k)，k=1，2，...存在，則稱它為X的k階原點(diǎn)矩，簡(jiǎn)稱k階矩。

若E{[X-E(X)]k}，k=1，2，...存在，則稱它為X的k階中心矩。

若E{(X^k）（Y^p)}，k、l=1，2，...存在，則稱它為X和Y的k+p階混合原點(diǎn)矩。

若E{[X-E(X)]^k[Y-E(Y)]^l}，k、l=1，2，...存在，則稱它為X和Y的k+l階混合中心矩。

顯然，X的數(shù)學(xué)期望E(X)是X的一階原點(diǎn)矩，方差D(X)是X的二階中心矩，協(xié)方差Cov(X，Y)是X和Y的二階混合中心矩。

協(xié)方差在農(nóng)業(yè)上的應(yīng)用

農(nóng)業(yè)科學(xué)實(shí)驗(yàn)中，經(jīng)常會(huì)出現(xiàn)可以控制的質(zhì)量因子和不可以控制的數(shù)量因子同時(shí)影響實(shí)驗(yàn)結(jié)果的情況，這時(shí)就需要采用協(xié)方差分析的統(tǒng)計(jì)處理方法，將質(zhì)量因子與數(shù)量因子(也稱協(xié)變量)綜合起來(lái)加以考慮。

比如，要研究3種肥料對(duì)蘋果產(chǎn)量的實(shí)際效應(yīng)，而各棵蘋果樹(shù)頭年的“基礎(chǔ)產(chǎn)量”不一致，但對(duì)試驗(yàn)結(jié)果又有一定的影響。要消除這一因素帶來(lái)的影響，就需將各棵蘋果樹(shù)第1年年產(chǎn)量這一因素作為協(xié)變量進(jìn)行協(xié)方差分析，才能得到正確的實(shí)驗(yàn)結(jié)果。

當(dāng)兩個(gè)變量相關(guān)時(shí)，用于評(píng)估它們因相關(guān)而產(chǎn)生的對(duì)應(yīng)變量的影響。

當(dāng)多個(gè)變量獨(dú)立時(shí)，用方差來(lái)評(píng)估這種影響的差異。

當(dāng)多個(gè)變量相關(guān)時(shí)，用協(xié)方差來(lái)評(píng)估這種影響的差異。