
R語言與顯著性檢驗(yàn)學(xué)習(xí)筆記
一、何為顯著性檢驗(yàn)
顯著性檢驗(yàn)的思想十分的簡(jiǎn)單,就是認(rèn)為小概率事件不可能發(fā)生。雖然概率論中我們一直強(qiáng)調(diào)小概率事件必然發(fā)生,但顯著性檢驗(yàn)還是相信了小概率事件在我做的這一次檢驗(yàn)中沒有發(fā)生。
顯著性檢驗(yàn)即用于實(shí)驗(yàn)處理組與對(duì)照組或兩種不同處理的效應(yīng)之間是否有差異,以及這種差異是否顯著的方法。
常把一個(gè)要檢驗(yàn)的假設(shè)記作H0,稱為原假設(shè)(或零假設(shè)),與H0對(duì)立的假設(shè)記作H1,稱為備擇假設(shè)。
⑴在原假設(shè)為真時(shí),決定放棄原假設(shè),稱為第一類錯(cuò)誤,其出現(xiàn)的概率通常記作α;
⑵在原假設(shè)不真時(shí),決定接受原假設(shè),稱為第二類錯(cuò)誤,其出現(xiàn)的概率通常記作β。
通常只限定犯第一類錯(cuò)誤的最大概率α,不考慮犯第二類錯(cuò)誤的概率β。這樣的假設(shè)檢驗(yàn)又稱為顯著性檢驗(yàn),概率α稱為顯著性水平。
我們常用的顯著性檢驗(yàn)有t檢驗(yàn),卡方檢驗(yàn),相關(guān)性檢驗(yàn)等,在做這一些檢驗(yàn)時(shí),有什么需要注意的呢?
二、正態(tài)性與P值
t檢驗(yàn),卡方檢驗(yàn),相關(guān)性檢驗(yàn)中的pearson方法都是建立在正態(tài)樣本的假設(shè)下的,所以在假設(shè)檢驗(yàn)開始時(shí),一般都會(huì)做正態(tài)性分析。在R中可以使用shapiro.test()。來作正態(tài)性檢驗(yàn)。當(dāng)然在norm.test包中還提供了許多其他的方法供我們選擇。
P值是可以拒絕原假設(shè)的最小水平值。
三、四個(gè)重要的量
綜合前面的敘述,我們知道研究顯著性檢驗(yàn)有四個(gè)十分重要的量:樣本大小,顯著性水平,功效,效應(yīng)值。
樣本大小:這個(gè)顯然,樣本越多,對(duì)樣本的把握顯然越準(zhǔn)確,但是鑒于我們不可能擁有無限制的樣本,那么多少個(gè)樣本可以達(dá)到要求?今天的分享中我們可以通過R來找到答案。
顯著性水平:犯第一類錯(cuò)誤的概率,這個(gè)在做檢驗(yàn)前我們會(huì)提前約定,最后根據(jù)P值來決定取舍。
功效:這個(gè)是在顯著性檢驗(yàn)中一般不提及但實(shí)際十分有用的量。它衡量真實(shí)事件發(fā)生的概率。也就是說功效越大,第二類錯(cuò)誤越不可能發(fā)生。雖然顯著性假設(shè)檢驗(yàn)不提及它,但衡量假設(shè)檢驗(yàn)的好壞的重要指標(biāo)便是兩類錯(cuò)誤盡可能小。
效應(yīng)值:備擇假設(shè)下效應(yīng)的量
四、用pwr包做功效分析
Pwr包中提供了以下函數(shù):
下面我們來介紹以上一些函數(shù)的用法。
1、 t檢驗(yàn)
調(diào)用格式:
pwr.t.test(n = NULL, d = NULL, sig.level =0.05, power = NULL, type =c("two.sample", "one.sample", "paired"),alternative = c("two.sided", "less","greater"))
參數(shù)說明:
N:樣本大小
D:t檢驗(yàn)的統(tǒng)計(jì)量
Sig.level:顯著性水平
Power:功效水平
Type:檢驗(yàn)類型,這里默認(rèn)是兩樣本,且樣本量相同
Alternative:統(tǒng)計(jì)檢驗(yàn)是雙側(cè)還是單側(cè),這里默認(rèn)為雙側(cè)
舉例說明:已知樣本量為60,單一樣本t檢驗(yàn)的統(tǒng)計(jì)量的值為0.2(這個(gè)可以通過t.test(data)$statistic取出來),顯著水平α=0.1,那么功效是多少呢?
R中輸入命令:
[plain] view plain copy
pwr.t.test(d=0.2,n=60,sig.level=0.10,type="one.sample",alternative="two.sided")
得到結(jié)果:
One-sample t test power calculation
n = 60
d = 0.2
sig.level = 0.1
power = 0.4555818
alternative = two.sided
我們可以看到,犯第二類錯(cuò)誤的概率在50%以上,我們應(yīng)該相信這個(gè)結(jié)果嗎(無論根據(jù)P值來看是拒絕還是接受)?顯然不行,那么需要多少個(gè)樣本才能把第二類錯(cuò)誤降低到10%呢?
在R中輸入:
[plain] view plain copy
pwr.t.test(d=0.2,power=0.9,sig.level=0.10,type="one.sample",alternative="two.sided")
得到結(jié)果:
One-sample t test power calculation
n = 215.4542
d = 0.2
sig.level = 0.1
power = 0.9
alternative = two.sided
也就是說216個(gè)樣本才可以得到滿意的結(jié)果,使得第二類錯(cuò)誤概率不超過0.1.
對(duì)于兩樣本而言是類似的,我們不在贅述,我們下面再介紹另一種t檢驗(yàn)的情況:兩樣本不相等。
調(diào)用格式:
pwr.t2n.test(n1 = NULL, n2= NULL, d = NULL,sig.level = 0.05, power = NULL, alternative = c("two.sided","less","greater"))
參數(shù)說明:
n1 Numberof observations in the first sample
n2 Numberof observations in the second sample
d Effectsize
sig.level Significancelevel (Type I error probability)
power Powerof test (1 minus Type II error probability)
alternative acharacter string specifying the alternative hypothesis, must be one of"two.sided" (default), "greater" or "less"
例如:兩個(gè)樣本量為90,60,統(tǒng)計(jì)量為0.6,單側(cè)t檢驗(yàn),α=0.05,為望大指標(biāo)。
R中的命令:
[plain] view plain copy
pwr.t2n.test(d=0.6,n1=90,n2=60,alternative="greater")
輸出結(jié)果:
t test power calculation
n1 = 90
n2 = 60
d = 0.6
sig.level = 0.05
power = 0.9737262
alternative = greater
可以看出功效十分大,且α=0.05,我們相信這次檢驗(yàn)的結(jié)論很可信。
2、 相關(guān)性
Pwr.r.test()函數(shù)對(duì)相關(guān)性分析進(jìn)行功效分析。格式如下:
pwr.r.test(n = NULL, r = NULL, sig.level = 0.05, power = NULL, alternative = c("two.sided", "less","greater"))
這里和t檢驗(yàn)不同的是r是線性相關(guān)系數(shù),可以通過cor(data1,data2)獲取,但需要注意的是不要輸入spearman,kendall相關(guān)系數(shù),他們是衡量等級(jí)相關(guān)的。
假定我們研究抑郁與孤獨(dú)的關(guān)系,我們的原假設(shè)和備擇假設(shè)為:
H0:r<0.25 v.s. H1:r>0.25
假定顯著水平為0.05,原假設(shè)不真,我們想有90%的信心拒絕H0,需要觀測(cè)多少呢?
下面的代碼給出答案:
[plain] view plain copy
pwr.r.test(r=0.25,sig.level=0.05,power=0.9,alt="greater")
approximate correlation power calculation (arctangh transformation)
n = 133.8325
r = 0.25
sig.level = 0.05
power = 0.9
alternative = greater
易見,需要樣本134個(gè)
3、 卡方檢驗(yàn)
原假設(shè)為變量之間獨(dú)立,備擇假設(shè)為變量不獨(dú)立。命令為pwr.chisq.test(),調(diào)用格式:
pwr.chisq.test(w = NULL, N = NULL, df = NULL, sig.level = 0.05, power = NULL)
其中w為效應(yīng)值,可以通過ES.w2計(jì)算出來,df為列聯(lián)表自由度
舉例:
[plain] view plain copy
prob<-matrix(c(0.225,0.125,0.125,0.125,0.16,0.16,0.04,0.04),nrow=2,byrow=TRUE)
prob
ES.w2(prob)
pwr.chisq.test(w=ES.w2(prob),df=(2-1)*(4-1),N=200)
輸出結(jié)果:
Chi squared power calculation
w = 0.2558646
N = 200
df = 3
sig.level = 0.05
power = 0.8733222
NOTE: N is the number of observations
也就是說,這個(gè)觀測(cè)下反第二類錯(cuò)誤的概率在13%左右,結(jié)果較為可信。
在R中還有不少與功效分析有關(guān)的包,我們不加介紹的把它們列舉如下:
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03