
R語言與顯著性檢驗學(xué)習(xí)筆記
一、何為顯著性檢驗
顯著性檢驗的思想十分的簡單,就是認為小概率事件不可能發(fā)生。雖然概率論中我們一直強調(diào)小概率事件必然發(fā)生,但顯著性檢驗還是相信了小概率事件在我做的這一次檢驗中沒有發(fā)生。
顯著性檢驗即用于實驗處理組與對照組或兩種不同處理的效應(yīng)之間是否有差異,以及這種差異是否顯著的方法。
常把一個要檢驗的假設(shè)記作H0,稱為原假設(shè)(或零假設(shè)),與H0對立的假設(shè)記作H1,稱為備擇假設(shè)。
⑴在原假設(shè)為真時,決定放棄原假設(shè),稱為第一類錯誤,其出現(xiàn)的概率通常記作α;
⑵在原假設(shè)不真時,決定接受原假設(shè),稱為第二類錯誤,其出現(xiàn)的概率通常記作β。
通常只限定犯第一類錯誤的最大概率α,不考慮犯第二類錯誤的概率β。這樣的假設(shè)檢驗又稱為顯著性檢驗,概率α稱為顯著性水平。
我們常用的顯著性檢驗有t檢驗,卡方檢驗,相關(guān)性檢驗等,在做這一些檢驗時,有什么需要注意的呢?
二、正態(tài)性與P值
t檢驗,卡方檢驗,相關(guān)性檢驗中的pearson方法都是建立在正態(tài)樣本的假設(shè)下的,所以在假設(shè)檢驗開始時,一般都會做正態(tài)性分析。在R中可以使用shapiro.test()。來作正態(tài)性檢驗。當(dāng)然在norm.test包中還提供了許多其他的方法供我們選擇。
P值是可以拒絕原假設(shè)的最小水平值。
三、四個重要的量
綜合前面的敘述,我們知道研究顯著性檢驗有四個十分重要的量:樣本大小,顯著性水平,功效,效應(yīng)值。
樣本大?。哼@個顯然,樣本越多,對樣本的把握顯然越準(zhǔn)確,但是鑒于我們不可能擁有無限制的樣本,那么多少個樣本可以達到要求?今天的分享中我們可以通過R來找到答案。
顯著性水平:犯第一類錯誤的概率,這個在做檢驗前我們會提前約定,最后根據(jù)P值來決定取舍。
功效:這個是在顯著性檢驗中一般不提及但實際十分有用的量。它衡量真實事件發(fā)生的概率。也就是說功效越大,第二類錯誤越不可能發(fā)生。雖然顯著性假設(shè)檢驗不提及它,但衡量假設(shè)檢驗的好壞的重要指標(biāo)便是兩類錯誤盡可能小。
效應(yīng)值:備擇假設(shè)下效應(yīng)的量
四、用pwr包做功效分析
Pwr包中提供了以下函數(shù):
下面我們來介紹以上一些函數(shù)的用法。
1、 t檢驗
調(diào)用格式:
pwr.t.test(n = NULL, d = NULL, sig.level =0.05, power = NULL, type =c("two.sample", "one.sample", "paired"),alternative = c("two.sided", "less","greater"))
參數(shù)說明:
N:樣本大小
D:t檢驗的統(tǒng)計量
Sig.level:顯著性水平
Power:功效水平
Type:檢驗類型,這里默認是兩樣本,且樣本量相同
Alternative:統(tǒng)計檢驗是雙側(cè)還是單側(cè),這里默認為雙側(cè)
舉例說明:已知樣本量為60,單一樣本t檢驗的統(tǒng)計量的值為0.2(這個可以通過t.test(data)$statistic取出來),顯著水平α=0.1,那么功效是多少呢?
R中輸入命令:
得到結(jié)果:
One-sample t test power calculation
n = 60
d = 0.2
sig.level = 0.1
power = 0.4555818
alternative = two.sided
我們可以看到,犯第二類錯誤的概率在50%以上,我們應(yīng)該相信這個結(jié)果嗎(無論根據(jù)P值來看是拒絕還是接受)?顯然不行,那么需要多少個樣本才能把第二類錯誤降低到10%呢?
在R中輸入:
pwr.t.test(d=0.2,power=0.9,sig.level=0.10,type="one.sample",alternative="two.sided")
得到結(jié)果:
One-sample t test power calculation
n = 215.4542
d = 0.2
sig.level = 0.1
power = 0.9
alternative = two.sided
也就是說216個樣本才可以得到滿意的結(jié)果,使得第二類錯誤概率不超過0.1.
對于兩樣本而言是類似的,我們不在贅述,我們下面再介紹另一種t檢驗的情況:兩樣本不相等。
調(diào)用格式:
pwr.t2n.test(n1 = NULL, n2= NULL, d = NULL,sig.level = 0.05, power = NULL, alternative = c("two.sided","less","greater"))
參數(shù)說明:
n1 Numberof observations in the first sample
n2 Numberof observations in the second sample
d Effectsize
sig.level Significancelevel (Type I error probability)
power Powerof test (1 minus Type II error probability)
alternative acharacter string specifying the alternative hypothesis, must be one of"two.sided" (default), "greater" or "less"
例如:兩個樣本量為90,60,統(tǒng)計量為0.6,單側(cè)t檢驗,α=0.05,為望大指標(biāo)。
R中的命令:
輸出結(jié)果:
t test power calculation
n1 = 90
n2 = 60
d = 0.6
sig.level = 0.05
power = 0.9737262
alternative = greater
可以看出功效十分大,且α=0.05,我們相信這次檢驗的結(jié)論很可信。
2、 相關(guān)性
Pwr.r.test()函數(shù)對相關(guān)性分析進行功效分析。格式如下:
pwr.r.test(n = NULL, r = NULL, sig.level = 0.05, power = NULL, alternative = c("two.sided", "less","greater"))
這里和t檢驗不同的是r是線性相關(guān)系數(shù),可以通過cor(data1,data2)獲取,但需要注意的是不要輸入spearman,kendall相關(guān)系數(shù),他們是衡量等級相關(guān)的。
假定我們研究抑郁與孤獨的關(guān)系,我們的原假設(shè)和備擇假設(shè)為:
H0:r<0.25 v.s. H1:r>0.25
假定顯著水平為0.05,原假設(shè)不真,我們想有90%的信心拒絕H0,需要觀測多少呢?
下面的代碼給出答案:
pwr.r.test(r=0.25,sig.level=0.05,power=0.9,alt="greater")
approximate correlation power calculation (arctangh transformation)
n = 133.8325
r = 0.25
sig.level = 0.05
power = 0.9
alternative = greater
易見,需要樣本134個
3、 卡方檢驗
原假設(shè)為變量之間獨立,備擇假設(shè)為變量不獨立。命令為pwr.chisq.test(),調(diào)用格式:
pwr.chisq.test(w = NULL, N = NULL, df = NULL, sig.level = 0.05, power = NULL)其中w為效應(yīng)值,可以通過ES.w2計算出來,df為列聯(lián)表自由度
舉例:
輸出結(jié)果:
Chi squared power calculation
w = 0.2558646
N = 200
df = 3
sig.level = 0.05
power = 0.8733222
NOTE: N is the number of observations
也就是說,這個觀測下反第二類錯誤的概率在13%左右,結(jié)果較為可信。
在R中還有不少與功效分析有關(guān)的包,我們不加介紹的把它們列舉如下:
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03