
如何用SPSS做數(shù)據(jù)正態(tài)化轉換?
數(shù)據(jù)分析師在用spss做數(shù)據(jù)不完全符合正態(tài)分布,接下來的問題是,很多學科都在講大樣本不用太考慮正態(tài)分布問題,但事實上由此造成的誤差確實存在,有時還會比較大。那么數(shù)據(jù)分析師如何用SPSS做數(shù)據(jù)正態(tài)化轉換呢?
嚴格說來,解決這個問題需要講四個方面:
什么是正態(tài)轉換?
為什么做正態(tài)轉換?
何時做正態(tài)轉化?
如何做正態(tài)轉化?
我擔心如果只講How(如何做),也許有些初學者不分場合,誤用濫用。但是,我同樣擔心如果從ABC講起,難免過分啰嗦,甚至有藐視大家的智商之嫌。所幸現(xiàn)在是互聯(lián)網時代,有關上述What, Why, When問題的答案網上唾手可得。如果對這些問題不甚了了的讀者,強烈建議先到google上用“How to transform data to normal distribution"搜一下(或點擊下面的“前10條”),前10條幾乎每篇都是必讀的經典。
有了上述交代,我們"數(shù)據(jù)分析師"可以比較放心地來討論如何做正態(tài)轉換的問題了。具體來說,涉及以下幾步:
查看原始變量的分布形狀及其描述參數(shù)(Skewness和Kurtosis)。這可以用頻率或者描述性統(tǒng)計或者BoxPlot;
根據(jù)變量的分布形狀,決定是否做轉換。這里,主要是看一下兩個問題:
也就是看Skewness(偏差度)的取值。如果Skewness為0,則是完全對稱(但罕見);如果Skewness為正值,則說明該變量的分布為positively skewed(正偏態(tài),見下圖1b);如果Skewness為負值,則說明該變量的分布為negatively skewed(負偏態(tài),見圖 1a)。然而,肉眼直觀檢查,往往無法判斷偏態(tài)的分布是否與對稱的正態(tài)分布有“顯著”差別,所以需要做顯著性檢驗。如同其它統(tǒng)計顯著性檢驗一樣,Skewness的絕對值如大于其標準誤差的1.96倍,就被認為是與正態(tài)分布有顯著差別。如果檢驗結果顯著,我們也許(注意這里我用的是“也許”一詞)可以通過轉換來達到或接近對稱。見注解1的說明。
也就是看Kurtosis(峰態(tài))是否過分peaked(陡峭)或過分flat(平坦)。如果Kurtosis為0,則說明該變量分布的峰態(tài)正合適,不胖也不瘦(但罕見);如果Kurtosis為正值,則說明該變量的分布峰態(tài)太陡峭(瘦高個,見圖2b);反之,如果Kurtosis為負值,該變量的分布峰態(tài)太平緩(矮胖子,見圖2a)。峰態(tài)是否適度,更難直觀看出,也需要通過顯著檢驗。如同Skewness一樣,Kurtosis的絕對值如果大于其標準誤差的1.96倍,就被認為與正態(tài)分布有顯著差別。這時,我們也許可以通過轉換來達到或接近正態(tài)分布(峰態(tài))。
如果"數(shù)據(jù)分析師"需要做正態(tài)化轉換,還是根據(jù)變量的分布形狀,確定相應的轉換公式。最常見的情況是正偏態(tài)加上陡峰態(tài)。
如Skewness為其標準誤差的2-3倍,可以考慮取根號值來轉換,以下是SPSS的指令(其中"nx"是原始變量x的轉換值,參見注2):
COMPUTE nx=SQRT(x)
如Skewness為其標準誤差的3倍以上,則可以取對數(shù),其中又可分為自然對數(shù)和以10為基數(shù)的對數(shù)。以下是轉換自然對數(shù)的指令(注2):
COMPUTE nx=LN(x)
以下是轉換成以10為基數(shù)的對數(shù)(其糾偏力度最強,有時會矯枉過正,將正偏態(tài)轉換成負偏態(tài),注2):
COMPUTE nx=LG10(x)
上述公式只能減輕或消除變量的正偏態(tài)(positive skewed),但如果不分青紅皂白(即不仔細操作第一和第二步)地用于負偏態(tài)(negative skewed)的變量,則會使負偏態(tài)變得更加嚴重。如果第一步顯示了負偏態(tài)的分布,則需要先對原始變量做reflection(反向轉換),即將所有的值反過來,如將最大值變成最小值、最小值變成最大值、等等。如果一個變量的取值不多,可用如下指令來反轉:
RECODE x(1=7)(2=6)(3=5)(5=3)(6=2)(7=1)
如果變量的取值很多或有小數(shù)、分數(shù),上述方法幾乎不可能,則需要寫如下的指令(不知大家現(xiàn)在是否信服了為什么要學syntax嗎?):
COMPUTE nx=max-x+1, 其中max是x的最大值。
回到第一步,再次檢驗轉換后變量的分布形狀。如果"數(shù)據(jù)分析師"沒有解決問題,或者甚至惡化(如上述的從正偏態(tài)轉成負偏態(tài)),需要再從第二或第三步重新做起,然后再回到第一步的檢驗,等等,直至達到比較令人滿意的結果(見注3)。
1、如同其它統(tǒng)計檢驗量一樣,Skewness和Kurtosis的的標準誤差也與樣本量直接有關。具體說來,Skewness的標準誤差約等于6除以n后的開方(根號喜下6/n),而Kurtosis的標準誤差約等于24除以n后的開方(根號下24/n),其中n均為樣本量。由此可見,樣本量越大,標準誤差越小,因此同樣大小的Skewness和Kurtosis在大樣本中越可能與正態(tài)分布有顯著差別。這也許就是SW在問題中提到的“很多學科都在講大樣本不用太考慮正態(tài)分布問題”的由來。我的看法是,如果小樣本的Skewness和Kurtosis是顯著的話,一定要轉換;在大樣本的條件下,如果Skewness和Kurtosis是輕度偏差,也許不需要轉換,但如果嚴重偏差,也是要轉換。
2、大家知道,根號里的x不能為負數(shù),對數(shù)或倒數(shù)里的x不能為非正數(shù)(即等于或小于0)。如果你的x中有是負數(shù)或非正數(shù),需要將其做線性轉換成非負數(shù)(即等于或大于0)或正數(shù)(大于0),如 COMPUTE nx = SQRT (x - min) 或 COMPUTE nx = LN (x - min + 1),其中的min是x的最小值(為一個非正數(shù))。
http://www.3lll3.cn/3、不是任何分布形態(tài)的變量都可以轉換的。例外之一是“雙峰”或“多峰”分布(distribution with dual or multiple modality),沒有任何公式可以將之轉換成單峰的正態(tài)分布。數(shù)據(jù)分析師培訓
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經網絡(RNN)家族中,長短期記憶網絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內權威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網絡(LSTM)作為循環(huán)神經網絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調研數(shù)據(jù)中的深度應用? 市場調研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數(shù)據(jù)處理的關鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03