
數(shù)據(jù)分析方法:非參數(shù)檢驗
前面介紹了T檢驗和方差分析,它們解決的是正態(tài)分布的高測度數(shù)據(jù)的均值差異性問題。對于非正態(tài)分布的高測度數(shù)據(jù),T檢驗或方差分析的方法就不再適用了。
均值差異性的檢驗方法:Z檢驗和T檢驗綜述;
均值差異性檢驗:方差分析綜述;
對于分布形態(tài)未知的數(shù)據(jù),常用處理方法如下:
判斷數(shù)據(jù)序列的分布形態(tài)
以標準的正態(tài)分布形態(tài)為基準,檢驗數(shù)據(jù)序列與正態(tài)序列是否存在分布差異性,這里可以用單樣本的K-S檢驗,如果沒有顯著性差異,就認為該序列滿足正態(tài)分布。對于已經(jīng)滿足正態(tài)分布的序列,可以直接使用基于正態(tài)分布的數(shù)據(jù)分析技術,比如T檢驗和方差分析。
轉化為正態(tài)分布序列
明確不是正態(tài)分布的序列,可以通過技術手段將序列轉化為接近正態(tài)分布的形態(tài)。在數(shù)據(jù)分析過程中,人們常常借助于秩分把非正態(tài)分布的數(shù)據(jù)轉化為接近正態(tài)分布的形態(tài);或者借助于Z分數(shù)和正態(tài)得分對數(shù)據(jù)序列進行預處理,然后借助正態(tài)分布差異性分析結束實現(xiàn)差異顯著性檢驗。
非參數(shù)檢驗方法
除了轉化為正態(tài)分布序列,還可直接使用非參數(shù)檢驗方法檢驗其分布差異性。實際上,所謂的非參數(shù)檢驗,其實質(zhì)就是借助于秩分或符號等技術對原始序列進行轉化,然后借用類似參數(shù)檢驗的手段開展數(shù)據(jù)分析。
非參數(shù)檢驗
前面說到,對于不符合正態(tài)分布的數(shù)據(jù),可以采用非參數(shù)檢驗的方法進行數(shù)據(jù)分析。在這里,不符合正態(tài)分布的數(shù)據(jù)可以分為兩種:1、不符合正態(tài)分布的高測度數(shù)據(jù)(定距數(shù)據(jù)和高測度的定序數(shù)據(jù));2、低測度數(shù)據(jù)(定類數(shù)據(jù)和低測度的定序數(shù)據(jù))。根據(jù)上面兩種數(shù)據(jù)類型,非參數(shù)檢驗主要包括下面三個方面的內(nèi)容:
檢驗樣本的分布形態(tài)
檢驗高測度數(shù)據(jù)序列的分布形態(tài),這是針對單變量的檢驗,其方法是檢驗數(shù)據(jù)序列的分布與標準分布形態(tài)的差異性。如果當前數(shù)據(jù)序列與標準分布形態(tài)沒有顯著性差異,則被認為當前序列滿足該分布形態(tài)。常見的針對單樣本數(shù)據(jù)判斷其分布形態(tài)的檢驗技術主要有:單樣本K-S檢驗、單樣本游程檢驗、二項分布檢驗、卡方檢驗。
分布形態(tài)差異顯著性檢驗
對于不符合正態(tài)分布的高測度數(shù)據(jù)序列,常見的差異顯著性檢驗方法有:1、兩獨立樣本的差異顯著性檢驗;2、多獨立樣本的差異顯著性檢驗;3、兩關聯(lián)樣本的差異顯著性檢驗;4、多關聯(lián)樣本的差異顯著性檢驗。
低測度數(shù)據(jù)的差異顯著性檢驗
對于不符合正態(tài)分布的定類數(shù)據(jù)或低測度定序數(shù)據(jù),其檢驗方法是利用交叉表技術分行分列計算交叉點的頻數(shù),利用卡方距離實施卡方檢驗,基于頻數(shù)和數(shù)據(jù)分布形態(tài)分析不同類別的數(shù)據(jù)是否存在顯著性差異。對于定類數(shù)據(jù)的對比檢驗,也叫獨立性檢驗。
分布形態(tài)差異顯著性檢驗
分布形態(tài)檢驗前面已經(jīng)介紹過,低測度數(shù)據(jù)的卡方檢驗將在下一篇文章中介紹。下面重點介紹對于非正態(tài)分布的高測度數(shù)據(jù)的分布形態(tài)差異顯著性檢驗方法。
兩關聯(lián)樣本的非參數(shù)檢驗
對不滿足正態(tài)分布的兩關聯(lián)樣本,如果分析其是否存在顯著性差異,不可以通過均值比較其差異性,通常是通過對比其分布形態(tài)比較其差異性。
數(shù)據(jù)序列的三個要求:1、樣本數(shù)據(jù)來源于同一總體的不同視角,或者是對相同樣本的多次測量;2、幾組樣本數(shù)據(jù)之間存在一一對應的關聯(lián)性;3、數(shù)據(jù)不滿足正態(tài)分布,或樣本的測量區(qū)分度不高。
兩關聯(lián)樣本非參數(shù)檢驗的方法
符號秩檢驗(Wilcoxon);基于符號檢驗其秩分分布的辦法,本質(zhì)上是一種檢驗平均秩的檢驗。即把樣本的兩次觀測值相減,記錄差值的符號和絕對值,并基于絕對值升序求秩分,比較兩組數(shù)據(jù)的正值秩分或負值秩分,從而確定其差異性。
符號檢驗(Sign);純粹通過符號實施數(shù)據(jù)檢驗的一種方法,即對樣本的兩次測量值直接相減求取符號,然后根據(jù)符號情況確定其差異性。由于符號檢驗僅僅通過正負號進行檢驗,適合于測度較低的非定距數(shù)據(jù),其檢驗準確度不夠高。
變化顯著性檢驗(McNemar);變化顯著性檢驗,是基于兩次測量差值情況的檢驗方法。即把樣本的兩次測量值相減,記錄差值,然后通過校驗公式處理后,求取卡方值。然后基于卡方檢驗決定其差異性。變化顯著性檢驗,僅適用于兩個變量均為二分數(shù)據(jù)的情況。
邊緣一致性檢驗(MarginalHomo);邊緣一致性檢驗,也是基于兩次測量差值情況的檢驗方法,主要通過把先后測量的兩組樣本值進行卡方檢驗?;诳ǚ綑z驗的方法判斷序列之間差異性。邊緣一致性檢驗,對變量的要求并不局限于二分數(shù)據(jù),還可以面向多值的分類變量。
多關聯(lián)樣本的非參數(shù)檢驗
當關聯(lián)樣本多于兩個時,需要用多關聯(lián)樣本的非參數(shù)檢驗。多關聯(lián)樣本的非參數(shù)檢驗方法主要有:
雙向等級方差分析(FriedMan);雙向等級方差分析是基于K個變量降序秩分的差異顯著性檢驗。這是基于秩分的一種方差分析方法,其基本思路是先對樣本的K個檢驗量進行降序求秩分,然后按照秩分做方差分析。雙向等級方差分析,比較適合于針對定距變量和高測度定序變量的數(shù)據(jù)分析。
肯德爾和諧系數(shù)檢驗(Kendall);肯德爾和諧系數(shù)檢驗,是基于肯德爾系數(shù)的差異顯著性檢驗技術,是基于秩分的平均等級分析。其基本思路是:先計算K個觀測量卡方值和肯德爾和諧系數(shù)W,然后判斷其觀測值的分布是否一致。在肯德爾和諧系數(shù)檢驗中,以肯德爾和諧系數(shù)W表示被檢驗變量的秩分之間的差異程度。協(xié)同系數(shù)W的取值在0~1,W越接近于1,表示變量的組件差異越大,反之,協(xié)同系數(shù)W越接近于0,表示變量的組間差異越小??系聽柡椭C系數(shù)檢驗,比較適合于定距變量與定序變量的處理。
二分變量檢驗(Cochran檢驗);二分變量檢驗,通過檢驗多個樣本量的CochranQ系數(shù),以便分析K各關聯(lián)樣本是否來自同一總體或者具有相同的分布。二分變量檢驗,主要面向二分變量的分析。
兩獨立樣本的非參數(shù)檢驗
對不滿足正態(tài)分布的兩獨立樣本,如需要分析其是否存在顯著性差異,同樣不可以通過均值比較其差異性,通常是通過分布形態(tài)或秩分比較其差異性。對于兩獨立樣本的非參數(shù)檢驗,對數(shù)據(jù)序列主要有以下要求:1、樣本數(shù)據(jù)來源于同一總體;2、樣本數(shù)據(jù)不滿足正態(tài)分布,或樣本的測量區(qū)分度不高;3、樣本數(shù)據(jù)可被另外的分組變量劃分為兩組;
兩獨立樣本非參數(shù)檢驗的方法
Wilcxon W等級和檢驗(Mann-Whitney U);Wilcxon W(威爾克科遜)等級與檢驗,也叫曼-惠特尼U檢驗,其基本思路是:把全部樣本混在一起求秩,然后根據(jù)兩組樣本的秩分情況判斷是否存在差異。曼-惠特尼U檢驗本質(zhì)上是一種通過比較兩個樣本秩分情況而獲得差異顯著性檢驗結論的一種檢驗技術。本算法適應于定距數(shù)據(jù)和定序數(shù)據(jù)。
摩西極端反映的差異檢驗(MosesExtreme reaction);摩西極端反映檢驗,即摩西極端反映的差異顯著性檢驗,即對全體樣本混合求秩分,根據(jù)兩端的極端秩分值確定其差異性。摩西極端反映檢驗是通過檢驗極端秩分值來反映的差異情況,來判斷兩組數(shù)據(jù)的分布是否存在差異。
兩獨立樣本的K-S檢驗(Kolmogorov-Smirnov Z);兩獨立樣本的K-S檢驗,是基于秩分累積頻數(shù)的檢驗方式。即對全體樣本混合求取秩分,然后針對秩分的累積頻數(shù)或累積頻率進行差異顯著性檢驗。本算法適應于定距數(shù)據(jù)和定序數(shù)據(jù)。如果預先把其中一組數(shù)據(jù)設置為標準分布形態(tài)的數(shù)據(jù),那么通過K-S分析待檢驗序列與標準分布的差異性水平,就能實現(xiàn)針對單樣本數(shù)據(jù)的分布形態(tài)的判定。
沃爾德-沃爾福威茨游程檢驗(Wald-Wolfwitz runs);沃爾德-沃爾夫威茨游程檢驗,是基于秩分排列的游程檢驗。即對全體樣本混合求取秩分,并基于兩組樣本在秩分序列中的位置構造游程。通過分析游程的大小和數(shù)量實現(xiàn)游程檢驗,從而判斷兩組樣本在混合序列中的排列是否為隨機的。若兩組樣本在混合序列中的排列是隨機的,則兩組樣本之間沒有顯著性差異。
多獨立樣本的非參數(shù)檢驗
多獨立樣本的差異顯著性檢驗既可以是針對同一總體的不同隨機抽樣,也可以源于不同總體,其目的是判斷多個樣本序列的差異是否顯著。在多獨立樣本的差異顯著性檢驗中,對符合正態(tài)分布的高測度數(shù)據(jù),通常使用方差分析的方法,而對不符合正態(tài)分布的數(shù)據(jù),或者方差非齊性時,則常常使用非參數(shù)檢驗的方法。
多獨立樣本非參數(shù)檢驗的方法
K-W平均秩檢驗(Kruskal-Wailis H);K-W平均秩檢驗是一種基于平均秩的差異顯著性檢驗。其基本思路是:先把待分析的觀測變量序列排序后求取秩分(或者把多個獨立樣本的數(shù)據(jù)混合后排序并求取秩分),然后基于各組秩分,進行類似方差分析的計算,分析秩分的均值差異是否顯著。K-W平均秩檢驗是基于秩分的一種方差分析技術,適合于觀測變量為定距數(shù)據(jù)或定序數(shù)據(jù)的場合。
中位數(shù)檢驗(Median);中位數(shù)檢驗是基于數(shù)據(jù)序列的中位數(shù)而設計的一種差異性的檢驗。其基本思路:先求取混合后數(shù)據(jù)的中位數(shù),然后利用卡方分布統(tǒng)計量來計算每個樣本組內(nèi)中位數(shù)兩側個案數(shù)的差異性。中位數(shù)檢驗適合于測度不高的定序變量。
分組分布檢驗(Jonckheere);分組分布檢驗是通過檢驗多個樣本組是否具有相同分布來判斷差異性的方法。樣本的分組根據(jù)分組變量定義。分組分布檢驗既可以檢驗定距變量,也可以檢驗定序變量。對于定序變量,本方法比K-W檢驗更為有效。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經(jīng)網(wǎng)絡(RNN)家族中,長短期記憶網(wǎng)絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網(wǎng)絡(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調(diào)研數(shù)據(jù)中的深度應用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數(shù)據(jù)處理的關鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03