
數(shù)據(jù)分析技術(shù):相關(guān)關(guān)系分析;說“你好我也好”,這不足夠
基礎(chǔ)準(zhǔn)備
數(shù)據(jù)的相關(guān)性分析是生活中運(yùn)用十分廣泛的一種數(shù)據(jù)分析方法。例如,在某個(gè)婦科產(chǎn)品的廣告里,用“你好我也好”來表達(dá)用了產(chǎn)品就能健康的相關(guān)關(guān)系;在朋友交往中,患難見真情幫助人們知道哪個(gè)才是真正親密的朋友;過年走親戚,用代際血緣的遠(yuǎn)近來描述不同親戚之間的親密程度。在數(shù)據(jù)分析領(lǐng)域,對于不同變量之間相關(guān)關(guān)系的衡量指標(biāo)也是不同的。
實(shí)際的生產(chǎn)生活中,很多事物之間有著千絲萬縷的聯(lián)系,這些聯(lián)系有的緊密,有的稀松。表達(dá)互相聯(lián)系事物的依存情況有兩種方式:相關(guān)關(guān)系和回歸關(guān)系(函數(shù)關(guān)系)?;貧w關(guān)系是一種確定關(guān)系,通過一個(gè)或幾個(gè)事物的取值能夠得到另一個(gè)事物的取值,這是通過回歸方程(函數(shù)方程)實(shí)現(xiàn)的。相關(guān)關(guān)系不是確定關(guān)系,當(dāng)一個(gè)或幾個(gè)事物的取值發(fā)生變化時(shí),與它(它們)有聯(lián)系的事物的取值也會發(fā)生變化,但變化值不是確定的數(shù)值?;谶@些區(qū)別,在數(shù)據(jù)分析中,一般先做相關(guān)關(guān)系的分析,待相關(guān)關(guān)系清楚以后,再進(jìn)一步確定不同變量之間的函數(shù)關(guān)系(回歸關(guān)系)。
相關(guān)關(guān)系分類
相關(guān)關(guān)系從不同的角度有不同的分類方式。首先是按照相關(guān)關(guān)系強(qiáng)度劃分:完全相關(guān),弱相關(guān)和不相關(guān)。也能按照相關(guān)關(guān)系的方向分類:正相關(guān)和負(fù)相關(guān)。以上兩種是最常用的分類方式。除此之外,還有兩種分類方式,需要重點(diǎn)介紹。
按照相關(guān)關(guān)系形態(tài)劃分,可以分為線性相關(guān)和非線性相關(guān)。當(dāng)一個(gè)變量的值發(fā)生變化時(shí),另外一個(gè)變量也發(fā)生大致相同的變化。在直角坐標(biāo)系里,兩個(gè)變量的觀測值的分布大致在一條直線上,那么這兩個(gè)變量之間的相關(guān)關(guān)系是線性關(guān)系;如果在直角指標(biāo)系內(nèi),兩個(gè)變量的觀測值分布是一條曲線,那么它們之間的相關(guān)關(guān)系是非線性相關(guān)。
還有一種相關(guān)關(guān)系的劃分原則是按照變量的個(gè)數(shù)劃分,可以分為單相關(guān),復(fù)相關(guān)和偏相關(guān)。單相關(guān)是兩個(gè)變量之間的關(guān)系,這兩個(gè)變量一個(gè)是因變量,一個(gè)是自變量。兩個(gè)變量的相關(guān)關(guān)系分析也被稱為二元變量相關(guān)分析。復(fù)相關(guān)是指三個(gè)或三個(gè)以上的變量之間的關(guān)系,即一個(gè)因變量對兩個(gè)或兩個(gè)以上自變量的相關(guān)關(guān)系。偏相關(guān)綜合了單相關(guān)和復(fù)相關(guān)的特點(diǎn),當(dāng)一個(gè)變量與多個(gè)變量相關(guān),但是只關(guān)心其中一個(gè)因變量與自變量的關(guān)系,需要屏蔽其他因變量對自變量的影響,這樣的相關(guān)關(guān)系就叫做偏相關(guān)。
相關(guān)分析
相關(guān)分析是將變量之間相關(guān)關(guān)系進(jìn)行量化處理的過程,通過計(jì)算變量間的相關(guān)系數(shù),對兩個(gè)或兩個(gè)以上變量之間兩兩相關(guān)的強(qiáng)度進(jìn)行量化描述。量化描述的結(jié)果就是各種不同的相關(guān)系數(shù)。
二元變量相關(guān)系數(shù)
二元變量的相關(guān)分析計(jì)算得到的是兩個(gè)變量之間的相關(guān)系數(shù)。具體而言,兩個(gè)定距和定比變量間的相關(guān)性用Pearson(皮爾遜)相關(guān)系數(shù)來判定,這是參數(shù)檢驗(yàn)的方法;兩個(gè)定序或定類變量間的相關(guān)性用Spearman等級相關(guān)系數(shù)和Kendall’s tau-b等級相關(guān)系數(shù)來判定,這兩種方法屬于非參數(shù)檢驗(yàn)。
Pearson簡單相關(guān)系數(shù)
皮爾遜簡單相關(guān),也稱積差相關(guān)。是以英國統(tǒng)計(jì)學(xué)家皮爾遜的名字命名的計(jì)算線性相關(guān)的方法,用于對定距或定比變量的相關(guān)性探索。皮爾遜相關(guān)系數(shù)的計(jì)算公式:
使用條件:
兩個(gè)變量都是由測量獲得的連續(xù)型數(shù)據(jù),即等距或等比數(shù)據(jù)。
兩個(gè)變量的總體都呈正態(tài)分布或接近正態(tài)分布,,至少是單峰對稱分布,當(dāng)然樣本并不一定要正態(tài)。
必須是成對的數(shù)據(jù),并且每對數(shù)據(jù)之間是相互獨(dú)立的。
兩個(gè)變量之間呈線性關(guān)系,一般用描繪散點(diǎn)圖的方式來觀察。
Spearman等級相關(guān)系數(shù)
Spearman相關(guān)系數(shù)是由英國統(tǒng)計(jì)學(xué)家Spearman在Pearson相關(guān)的基礎(chǔ)上剔除的等級相關(guān)系數(shù)的計(jì)算方法,用于對定類或定序變量的相關(guān)性檢驗(yàn),可以看作是Pearson相關(guān)系數(shù)的非參數(shù)檢驗(yàn),因?yàn)樗罁?jù)的是數(shù)據(jù)的秩而非數(shù)據(jù)的實(shí)際值。Spearman相關(guān)系數(shù)的取值范圍也是在-1到+1之間,絕對值越大相關(guān)性越強(qiáng),正負(fù)號表示相關(guān)的方向。Spearman相關(guān)系數(shù)計(jì)算公式:
Spearman等級相關(guān)系數(shù)的特點(diǎn):
如果兩變量正相關(guān)較強(qiáng),則它們秩變化同步,D值較小,等級相關(guān)系數(shù)趨于1;
如果兩變量負(fù)相關(guān)較強(qiáng),則它們秩變化相反,D值較大,等級相關(guān)系數(shù)趨于-1;
如果兩變量相關(guān)性弱,它們秩變化互不影響,D值趨于中間值,等級相關(guān)系數(shù)趨于0;
Kendall’s tau-b等級相關(guān)系數(shù)
和Spearman相關(guān)系數(shù)一樣,Kendall’stau-b等級相關(guān)系數(shù)也是用于對定序變量的相關(guān)程度的度量,也屬于非參數(shù)檢驗(yàn)的范疇。它利用變量秩數(shù)據(jù)來計(jì)算一致對數(shù)目U和非一致對數(shù)目V。當(dāng)兩個(gè)變量具有較強(qiáng)的正相關(guān)關(guān)系時(shí),一致對數(shù)目U較大,非一致對數(shù)目V較??;當(dāng)兩個(gè)變量具有較強(qiáng)的負(fù)相關(guān)關(guān)系時(shí),一致對數(shù)目U較小,非一致對數(shù)目V較大;當(dāng)兩個(gè)變量相關(guān)性較弱時(shí),一致對數(shù)目U和非一致對數(shù)目V大致相等。Kendalltau-b相關(guān)系數(shù)定義為:
Kendall tau-b相關(guān)系數(shù)具有如下特點(diǎn):
如果兩變量正相關(guān)性強(qiáng),秩變化同步,則U應(yīng)該較大,V應(yīng)該較小,趨于1;
如果兩變量負(fù)相關(guān)性強(qiáng),秩變化相反,則U應(yīng)該較小,V應(yīng)該較大,趨于-1;
如果相關(guān)關(guān)系弱,則U,V大致相等,趨于0;
偏相關(guān)分析系數(shù)
在實(shí)際生活中,一個(gè)事物的變化往往會受到多個(gè)事物的影響,而非完全的二元相關(guān)關(guān)系,因此這就使得二元變量相關(guān)系數(shù)不能真真反映兩個(gè)變量間的線性相關(guān)程度。那么當(dāng)兩個(gè)變量的取值受到其它變量影響時(shí),可以利用偏相關(guān)分析對其它變量進(jìn)行控制,以輸出控制其它變量影響后的相關(guān)系數(shù),這就是偏相關(guān)分析過程。
偏相關(guān)分析就是在分析兩個(gè)變量之間的線性相關(guān)關(guān)系時(shí)控制可能對其產(chǎn)生影響的變量,以便于使分析結(jié)果更準(zhǔn)確可靠。偏相關(guān)分析也稱為凈相關(guān)分析,分析依據(jù)是偏相關(guān)系數(shù)。當(dāng)有1個(gè)控制變量時(shí),偏相關(guān)系數(shù)稱為一階偏相關(guān);當(dāng)有兩個(gè)控制變量時(shí),偏相關(guān)系數(shù)稱為二階偏相關(guān);當(dāng)控制變量為0個(gè)時(shí),偏相關(guān)系數(shù)稱為零階偏相關(guān),也就是Pearson簡單相關(guān)系數(shù)。
偏相關(guān)分析的零假設(shè)為:兩事物的偏相關(guān)系數(shù)與零無顯著差異。假設(shè)分析中有3個(gè)變量x,y,z,在分析x與y的相關(guān)性時(shí)需要控制變量z,那么x,y之間的一階偏相關(guān)系數(shù)計(jì)算公式為:
其中,r是相應(yīng)的偏相關(guān)系數(shù),n是樣本數(shù),k是控制變量的數(shù)目,n-k-2是自由度。
距離相關(guān)分析
顯示生活中,事物之間的關(guān)系往往錯(cuò)綜復(fù)雜,設(shè)計(jì)的變量很多,且它們代表的信息也非常繁雜,我們通過觀察無法厘清這些變量及其觀測值之間的內(nèi)在關(guān)系,為了判別錯(cuò)綜復(fù)雜的變量及其觀測值之間是否具有相似性,是否屬于同一類別,通常采用更為復(fù)雜的分析手段,距離相關(guān)分析。
距離相關(guān)分析用于對不同個(gè)案間或同一變量的不同觀測值之間進(jìn)行相似性或不相似性的測量。距離相關(guān)分析的結(jié)果可為進(jìn)一步的因子分析,聚類分析和多維尺度分析等提供信息,以幫助了解復(fù)雜數(shù)據(jù)的內(nèi)在結(jié)構(gòu),為進(jìn)一步分析打下基礎(chǔ),因此距離相關(guān)分析通常不單獨(dú)使用,所以其分析結(jié)果不會給出顯著性值,而只是給出各個(gè)案或各觀測值之間的距離大小,再由研究者自行判斷其相似或不相似程度。
距離相關(guān)分析根據(jù)統(tǒng)計(jì)量的不同,可分為兩種情況:
非相似性測量:計(jì)算個(gè)案或變量值之間的距離。其數(shù)值越大,表示相似性程度越弱。
相似性測量:計(jì)算個(gè)案或變量值之間的Pearson相關(guān)系數(shù)或Cosine相關(guān),取值范圍為-1~+1,其數(shù)值越大,表示相似程度越高。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03