
列聯(lián)表和卡方檢驗 分類變量之間的相關(guān)性一般可以采用列聯(lián)表分析或卡方檢驗的方法來進(jìn)行驗證。 列聯(lián)表是兩個分類變量的分類水平之間形成的交叉頻數(shù)表,通過計算行百分比或列百分比,對實際頻率和期望頻率進(jìn)行對 比分析,例如一個典型的列聯(lián)表如下:
對于表中頻數(shù)、期望頻數(shù)、行/列百分比的解讀方法要熟練掌握。 比如98代表的是頭發(fā)顏色為金色,眼睛顏色為深色的樣本數(shù)量。 而355.2則是期望的數(shù)量。6.7%是行百分比,也就是在所有頭發(fā)顏 色為金色的樣本中,眼睛顏色為深色的占比。
列聯(lián)表是一種比較簡單的描述性統(tǒng)計方法,而卡方檢驗則可以通過量化的方法對兩個分類變量的相關(guān)性進(jìn)行檢驗,卡方統(tǒng) 計量如下:
在掌握了列聯(lián)表分析和卡方檢驗的基礎(chǔ)上,可以學(xué)習(xí)使用邏輯回歸對分類變量進(jìn)行預(yù)測。 邏輯回歸主要處理的就是分類問題。事實上,也可以把他看作是線性回歸一種延伸。我們面對的因變量,也就是模型輸出 結(jié)果不再是一個連續(xù)變量,而是一個分類變量。最常見的邏輯回歸就是二分類變量邏輯回歸,通常我們可以使用這種方法 來尋找目標(biāo)客戶。
1.進(jìn)行邏輯回歸時,我們希望選擇的變量盡可能地有效,避免冗余。常用的變量篩選方法有如下幾種:
Wald檢驗:通過Wald統(tǒng)計量,來檢驗自變量對因變量的影響能力。Wald越大,說明自變量的相關(guān)性越大,越應(yīng)該保留。
似然比檢驗(Likehood Ratio):也是邏輯回歸非常常用的一種檢驗方法。邏輯回歸模型的估計一般是使用最大似然估計, 也就是說找到一個似然函數(shù)L,使其達(dá)到最大值。L越大,也就說明模型的預(yù)測效果越好。因此似然比檢驗本質(zhì)上是對包 含或者不包含某一個或者幾個變量的模型L值進(jìn)行比較,從而做出判斷。
比分檢驗(Score Test):以包含某個或者某幾個變量的模型作為基礎(chǔ),加入系數(shù)為0的新變量,通過計算似然函數(shù)的一階 偏導(dǎo)數(shù)和信息矩陣,取兩者的乘積作為最終的統(tǒng)計量。
這三種方法中,似然比檢驗是最可靠,也是最常用的一種變量篩選方法。在變量存在共線性時,Wald檢驗結(jié)果不可靠。另 外,實際應(yīng)用是以上三種方法,都可以采用向前或者向后逐步的方式進(jìn)行變量篩選。
另外在邏輯回歸模型里,我們需要使得自變量和因變量的對數(shù)存在線性關(guān)系。如果發(fā)現(xiàn)實際的變量不符合,可以通過篩選 變量,變量轉(zhuǎn)換等方式進(jìn)行調(diào)整。另外變量轉(zhuǎn)換也可以避免異常值對結(jié)果造成偏差。
前面提到,邏輯回歸的模型參數(shù)估計通常采用的是最大似然函數(shù)法,因此理論上需要有一定量的樣本才能采用這種方法, 否則檢驗公式就是不合理的。另外也需要注意的是,邏輯回歸的模型無法解決多重共線性的問題,因此在輸入變量前,對 變量進(jìn)行檢驗和清洗是非常必要的。 得到模型后,我們可以通過混淆矩陣和ROC曲線來評判模型的效果。
靈敏度指的是模型“擊中”的概率,也就是對于實際發(fā)生(取值為1)的樣本,模型預(yù)測為1的概率。對應(yīng)上圖的公式為 A/(A+B)。
特異度指的是模型“正確否定”的概率,也就是說對于實際沒發(fā)生(取值為0)的樣本,模型預(yù)測為0的概率。對應(yīng)上圖 的公式為D/(C+D)。
因此,可以看到不管是靈敏度還是特異度,都是越高,說明我們的模型越有效。在實際應(yīng)用中,由于邏輯回歸模型計算 的結(jié)果其實是一個相對可能性p,因此我們可以根據(jù)實際情況調(diào)整判斷取值為1的p的標(biāo)準(zhǔn)。更有側(cè)重性地提高靈敏度或 者特異度。
3.ROC曲線
除了使用混淆矩陣,我們還可以通過ROC曲線的方式來圖形化地判斷模型效果。
ROC曲線也是基于靈敏度和特異度來進(jìn)行判斷的。曲線下面積AUC 指的是ROC曲線、底線和右側(cè)線圍成的面積。ROC曲線的面積一般 在0.5-1之間。這個數(shù)值越接近1,表明模型預(yù)測能力越強。當(dāng)AUC 在0.7-0.9時,我們認(rèn)為模型有較高的判斷作用。而AUC接近0.5的 時候,我們?nèi)藶檫@個模型是無效的。
在實際業(yè)務(wù)中,我們一般利用二分類邏輯回歸作為篩選目標(biāo)客戶的 主要手段。不管是識別明星客戶、流失客戶,甚至是可能存在違約 或者欺詐行為的客戶,都可以采用這種方法。
1. 某客戶為欺詐的概率為0.4,則優(yōu)勢odds為( )?
A. 0.4
B .2 / 3
C. 3 / 2
D. 0.6
答案:B 解析:該題考核了二分類變量分析的基礎(chǔ)知識。Odds的定義是顯性結(jié)果的概率比上非顯性結(jié)果的概率,因此為0.4 / 0.6,等 于2 / 3。
2. 建立邏輯回歸時,為什么有時候需要對連續(xù)變量進(jìn)行分箱處理?
A. 避免變量的共線性
B. 捕獲原始連續(xù)變量和被解釋變量之間非線性關(guān)系
C. 避免異常值影響
答案:BC 解析:如果發(fā)現(xiàn)解釋變量與反應(yīng)變量之間相關(guān),但又不呈現(xiàn)線性關(guān)系時,往往會對解釋變量進(jìn)行分箱,同時分箱也能夠消除極端值。 因此選BC。
點擊CDA題庫鏈接,獲取免費版CDA題庫入口,??荚図樌?,快速拿證!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03