
數(shù)據(jù)分析中要注意的統(tǒng)計學問題
(一、均值的計算
在處理數(shù)據(jù)時,經(jīng)常會遇到對相同采樣或相同實驗條件下同一隨機變量的多個不同取值進行統(tǒng)計處理的問題。此時,往往我們會不假思索地直接給出算術平均值和標準差。顯然,這種做法是不嚴謹?shù)摹?/span>
這是因為作為描述隨機變量總體大小特征的統(tǒng)計量有算術平均值、幾何平均值和中位數(shù)等多個。至于該采用哪種均值,不能根據(jù)主觀意愿隨意確定,而要根據(jù)隨機變量的分布特征確定。
反映隨機變量總體大小特征的統(tǒng)計量是數(shù)學期望,而在隨機變量的分布服從正態(tài)分布時,其數(shù)學期望就是其算術平均值。此時,可用算術平均值描述隨機變量的大小特征;如果所研究的隨機變量不服從正態(tài)分布,則算術平均值不能準確反映該變量的大小特征。在這種情況下,可通過假設檢驗來判斷隨機變量是否服從對數(shù)正態(tài)分布。如果服從對數(shù)正態(tài)分布,則幾何平均值就是數(shù)學期望的值。此時,就可以計算變量的幾何平均值;如果隨機變量既不服從正態(tài)分布也不服從對數(shù)正態(tài)分布,則按現(xiàn)有的數(shù)理統(tǒng)計學知識,尚無合適的統(tǒng)計量描述該變量的大小特征。此時,可用中位數(shù)來描述變量的大小特征。
因此,我們不能在處理數(shù)據(jù)的時候一律采用算術平均值,而是要視數(shù)據(jù)的分布情況而定。
二、直線相關與回歸分析
這兩種分析,說明的問題是不同的,既相互又聯(lián)系。在做實際分析的時候,應先做變量的散點圖,確認由線性趨勢后再進行統(tǒng)計分析。一般先做相關分析,只有在相關分析有統(tǒng)計學意義的前提下,求回歸方程才有實際意義。一般來講,有這么兩個問題值得注意:
一定要把回歸和相關的概念搞清楚,要做回歸分析時,不需要報告相關系數(shù);做相關分析的時候,不需要計算回歸方程。
相關分析中,只有對相關系數(shù)進行統(tǒng)計檢驗(如t檢驗),P<0.05時,才能一依據(jù)r值的大小來說明兩個變量的相關程度。必須注意的是,不能將相關系數(shù)的假設檢驗誤認為是相關程度的大小。舉個例子:當樣本數(shù)量很小,即使r值較大(如3對數(shù)據(jù),r=0.9),也可能得出P>0.05這種無統(tǒng)計學意義的結論;而當樣本量很大,如500,即使r=0.1,也會有P<0.05的結果,但這種相關卻不具有實際意義。因此,要表明相關性,除了要寫出r值外,還應該注明假設檢驗的P值。
三、相關分析和回歸分析之間的區(qū)別
相關分析和回歸分析是極為常用的2種數(shù)理統(tǒng)計方法,在環(huán)境科學及其它研究領域有著廣泛的用途。然而,由于這2種數(shù)理統(tǒng)計方法在計算方面存在很多相似之處,因此在應用中我們很容易將二者混淆。
最常見的錯誤是,用回歸分析的結果解釋相關性問題。例如,將“回歸直線(曲線)圖”稱為“相關性圖”或“相關關系圖”;將回歸直線的R2(擬合度,或稱“可決系數(shù)”)錯誤地稱為“相關系數(shù)”或“相關系數(shù)的平方”;根據(jù)回歸分析的結果宣稱2個變量之間存在正的或負的相關關系。
相關分析與回歸分析均為研究2個或多個變量間關聯(lián)性的方法,但2種方法存在本質的差別。相關分析的目的在于檢驗兩個隨機變量的共變趨勢(即共同變化的程度),回歸分析的目的則在于試圖用自變量來預測因變量的值。
實際上在相關分析中,兩個變量必須都是隨機變量,如果其中的一個變量不是隨機變量,就不能進行相關分析。而回歸分析中,因變量肯定為隨機變量,而自變量則可以是普通變量(有確定的取值)也可以是隨機變量。
很顯然,當自變量為普通變量的時候,這個時候你根本不可能回答相關性的問題;當兩個變量均為隨機變量的時候,鑒于兩個隨機變量客觀上存在“相關性”問題,只是由于回歸分析方法本身不能提供針對自變量和因變量之間相關關系的準確的檢驗手段,因此這又回到了問題二中所講的,如果你要以預測為目的,就不要提相關系數(shù);當你以探索兩者的“共變趨勢”為目的,就不要提回歸方程。
回歸分析中的R2在數(shù)學上恰好是Pearson積矩相關系數(shù)r的平方。因此我們不能錯誤地理解R2的含義,認為R2就是 “相關系數(shù)”或“相關系數(shù)的平方”。這是因為,對于自變量是普通變量的時候,2個變量之間的“相關性”概念根本不存在,又談什么“相關系數(shù)”呢?
四、相關分析中的問題
相關分析中,我們很容易犯這么一個錯誤,那就是不考慮兩個隨機變量的分布,直接采用Pearson 積矩相關系數(shù)描述這2個隨機變量間的相關關系(此時描述的是線性相關關系)。
關于相關系數(shù),除有Pearson 積矩相關系數(shù)外,還有Spearman秩相關系數(shù)和Kendall秩相關系數(shù)等。其中,Pearson積矩相關系數(shù)可用于描述2個隨機變量的線性相關程度,Spearman或Kendall秩相關系數(shù)用來判斷兩個隨機變量在二維和多維空間中是否具有某種共變趨勢。
因此我們必須注意的是,Pearson 積矩相關系數(shù)的選擇是由前提的,那就是2個隨機變量均服從正態(tài)分布假設。如果數(shù)據(jù)不服從正態(tài)分布,則不能計算Pearson 積矩相關系數(shù),這個時候,我們就因該選擇Spearman或Kendall秩相關系數(shù)。
五、t檢驗
用于比較均值的t檢驗可以分成三類:第一類是針對單組設計定量資料的;第二類是針對配對設計定量資料的;第三類則是針對成組設計定量資料的。后兩種設計類型的區(qū)別在于事先是否將兩組研究對象按照某一個或幾個方面的特征相似配成對子。無論哪種類型的t檢驗,都必須在滿足特定的前提條件下應用才是合理的。
若是單組檢驗,必須給出一個標準值或總體均值,同時,提供一組定量的觀測結果,應用t檢驗的前提條件就是該組資料必須服從正態(tài)分布;若是配對設計,每對數(shù)據(jù)的差值必須服從正態(tài)分布;若是成組設計,個體之間相互獨立,兩組資料均取自正態(tài)分布的總體,并滿足方差齊性。之所以需要這些前提條件,是因為必須在這樣的前提下所計算出的t統(tǒng)計量才服從t分布。
t檢驗是目前在科學研究中使用頻率最高的一種假設檢驗方法。t檢驗方法簡單,其結果便于解釋。簡單、熟悉加上外界的要求,促成了t檢驗的流行。但是,由于我們對該方法理解得不全面,導致在應用過程中出現(xiàn)不少問題,有些甚至是非常嚴重的錯誤,直接影響到結論的可靠性。
常見錯誤:不考慮t檢驗的應用前提,對兩組的比較一律用t檢驗;將各種實驗設計類型一律視為多個單因素兩水平設計,多次用t檢驗進行均值之間的兩兩比較。以上兩種情況,均不同程度地增加了得出錯誤結論的風險。而且,在實驗因素的個數(shù)大于等于2時,無法研究實驗因素之間的交互作用的大小。
正確做法:當兩樣本均值比較時,如不滿足正態(tài)分布和方差齊性,應采用非參檢驗方法(如秩檢驗);兩組以上的均值比較,不能采用t檢驗進行均值之間的兩兩比較。
因此我們必須注意,在使用t檢驗的時候,一定要注意其前提以及研究目的,否則,會得出錯誤的結論。
六、常用統(tǒng)計分析軟件
國際上已開發(fā)出的專門用于統(tǒng)計分析的商業(yè)軟件很多,比較著名有SPSS(Statistical Package for SocialSciences)、SAS(Statistical AnalysisSystem)、BMDP和STATISTICA等。其中,SPSS是專門為社會科學領域的研究者設計的(但是,此軟件在自然科學領域也得到廣泛應用);BMDP是專門為生物學和醫(yī)學領域研究者編制的統(tǒng)計軟件。
當然,excel也能用于統(tǒng)計分析。單擊“工具”菜單中的“數(shù)據(jù)分析”命令可以瀏覽已有的分析工具。如果在“工具”菜單上沒有“數(shù)據(jù)分析”命令,應在“工具”菜單上運行“加載宏”命令,在“加載宏”對話框中選擇“分析工具庫”。
特別推薦一款國產(chǎn)軟件——DPS,其界面見附圖。其功能較為強大,除了擁有統(tǒng)計分析功能,如參數(shù)分析,非參分析等以外,還專門針對一些專業(yè)編寫了專業(yè)統(tǒng)計分析模塊,隨機前沿面模型、數(shù)據(jù)包絡分析(DEA)、顧客滿意指數(shù)模型(結構方程模型)、數(shù)學生態(tài)、生物測定、地理統(tǒng)計、遺傳育種、生存分析、水文頻率分析、量表分析、質量控制圖、ROC曲線分析等內容。有些不是統(tǒng)計分析的功能,如模糊數(shù)學方法、灰色系統(tǒng)方法、各種類型的線性規(guī)劃、非線性規(guī)劃、層次分析法、BP神經(jīng)網(wǎng)絡、徑向基函數(shù)(RBF)等,在DPS里面也可以找到。
皮爾遜積差相關系數(shù)與斯皮爾曼等級相關系
積差相關系數(shù)
編輯
(Correlation coefficient)
相關表和相關圖可反映兩個變量之間的相互關系及其相關方向,但無法確切地表明兩個變量之間相關的程度。著名統(tǒng)計學家卡爾·皮爾遜設計了統(tǒng)計指標——相關系數(shù)?!∫罁?jù)相關現(xiàn)象之間的不同特征,其統(tǒng)計指標的名稱有所不同。如將反映兩變量間線性相關關系的統(tǒng)計指標稱為相關系數(shù)(相關系數(shù)的平方稱為判定系數(shù)),將反映兩變量間曲線相關關系的統(tǒng)計指標稱為非線性相關系數(shù)、非線性判定系數(shù)。將反映多元線性相關關系的統(tǒng)計指標稱為復相關系數(shù)、復判定系數(shù)等。
相關系數(shù)的值介于–1與+1之間,即–1≤r≤+1。其性質如下:
* 當r>0時,表示兩變量正相關,r<0時,兩變量為負相關。
* 當|r|=1時,表示兩變量為完全線性相關,即為函數(shù)關系。
* 當r=0時,表示兩變量間無線性相關關系。
* 當0<|r|<1時,表示兩變量存在一定程度的線性相關。且|r|越接近1,兩變量間線性
關系越密切;|r|越接近于0,表示兩變量的線性相關越弱。
* 一般可按三級劃分:|r|<0.4為低度線性相關;0.4≤|r|<0.7為顯著性相關;
0.7≤|r|<1為高度線性相關。
在統(tǒng)計學中,變量按變量值是否連續(xù)可分為連續(xù)變量與離散變量兩種.在一定區(qū)間內可以任意取值的變量叫連續(xù)變量,其數(shù)值是連續(xù)不斷的,相鄰兩個數(shù)值可作無限分割,即可取無限個數(shù)值.例如,生產(chǎn)零件的規(guī)格尺寸,人體測量的身高,體重,胸圍等為連續(xù)變量,其數(shù)值只能用測量或計量的方法取得.反之,其數(shù)值只能用自然數(shù)或整數(shù)單位計算的則為離散變量.例如,企業(yè)個數(shù),職工人數(shù),設備臺數(shù)等,只能按計量單位數(shù)計數(shù),這種變量的數(shù)值一般用計數(shù)方法取得.
2性質
編輯
符號x如果能夠表示對象集合S中的任意元素,就是變量。如果變量的域(即對象的集合S)是離散的,該變量就是離散變量;如果它的域是連續(xù)的,它就是連續(xù)變量。連續(xù)變量由于不能一一列舉其變量值,只能采用組距式的分組方式,且相鄰的組限必須重疊。如以總產(chǎn)值、商品銷售額、勞動生產(chǎn)率、工資等為標志進行分組,就只能是相鄰組限重疊的組距式分組。[1]
3區(qū)分
連續(xù)變量(continuous variable)與離散變量(discrete variable)[2]的簡單區(qū)分
方法
連續(xù)變量與離散變量的簡單區(qū)別方法:連續(xù)變量時一直疊加上去的,增長量可以劃分為固定的單位,即:1,2,3…… 例如:一個人的身高,他首先長到1.51,然后才能長到1.52,1.53……;在百度貼吧中,用戶首先要有1個粉絲,其后他才能有2,3……位粉絲。
而離散變量則是通過計數(shù)方式取得的,即是對所要統(tǒng)計的對象進行計數(shù),增長量非固定的,如:一個地區(qū)的企業(yè)數(shù)目可以是今年只有一家,而第二年開了十家;一個企業(yè)的職工人數(shù)今年只有10人,第二年一次招聘了20人等。
分類變量可分為無序變量和有序變量兩類。
釋義
無序分類變量(unordered categorical variable)是指所分類別或屬性之間無程度和順序的差別。,它又可分為①二項分類,如性別(男、女),藥物反應(陰性和陽性)等;②多項分類,如血型(O、A、B、AB),職業(yè)(工、農、商、學、兵)等。對于無序分類變量的分析,應先按類別分組,清點各組的觀察單位數(shù),編制分類變量的頻數(shù)表,所得資料為無序分類資料,亦稱計數(shù)資料。有序分類變量有序分類變量(ordinal categorical variable)各類別之間有程度的差別。如尿糖化驗結果按-、±、+、++、+++分類;療效按治愈、顯效、好轉、無效分類。對于有序分類變量,應先按等級順序分組,清點各組的觀察單位個數(shù),編制有序變量(各等級)的頻數(shù)表,所得資料稱為等級資料。數(shù)據(jù)分析培訓
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經(jīng)網(wǎng)絡(RNN)家族中,長短期記憶網(wǎng)絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內權威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網(wǎng)絡(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調研數(shù)據(jù)中的深度應用? 市場調研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數(shù)據(jù)處理的關鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03