
列聯(lián)表和卡方檢驗 分類變量之間的相關(guān)性一般可以采用列聯(lián)表分析或卡方檢驗的方法來進行驗證。 列聯(lián)表是兩個分類變量的分類水平之間形成的交叉頻數(shù)表,通過計算行百分比或列百分比,對實際頻率和期望頻率進行對 比分析,例如一個典型的列聯(lián)表如下:
對于表中頻數(shù)、期望頻數(shù)、行/列百分比的解讀方法要熟練掌握。 比如98代表的是頭發(fā)顏色為金色,眼睛顏色為深色的樣本數(shù)量。 而355.2則是期望的數(shù)量。6.7%是行百分比,也就是在所有頭發(fā)顏 色為金色的樣本中,眼睛顏色為深色的占比。
列聯(lián)表是一種比較簡單的描述性統(tǒng)計方法,而卡方檢驗則可以通過量化的方法對兩個分類變量的相關(guān)性進行檢驗,卡方統(tǒng) 計量如下:
在掌握了列聯(lián)表分析和卡方檢驗的基礎(chǔ)上,可以學(xué)習(xí)使用邏輯回歸對分類變量進行預(yù)測。 邏輯回歸主要處理的就是分類問題。事實上,也可以把他看作是線性回歸一種延伸。我們面對的因變量,也就是模型輸出 結(jié)果不再是一個連續(xù)變量,而是一個分類變量。最常見的邏輯回歸就是二分類變量邏輯回歸,通常我們可以使用這種方法 來尋找目標(biāo)客戶。
1.進行邏輯回歸時,我們希望選擇的變量盡可能地有效,避免冗余。常用的變量篩選方法有如下幾種:
Wald檢驗:通過Wald統(tǒng)計量,來檢驗自變量對因變量的影響能力。Wald越大,說明自變量的相關(guān)性越大,越應(yīng)該保留。
似然比檢驗(Likehood Ratio):也是邏輯回歸非常常用的一種檢驗方法。邏輯回歸模型的估計一般是使用最大似然估計, 也就是說找到一個似然函數(shù)L,使其達到最大值。L越大,也就說明模型的預(yù)測效果越好。因此似然比檢驗本質(zhì)上是對包 含或者不包含某一個或者幾個變量的模型L值進行比較,從而做出判斷。
比分檢驗(Score Test):以包含某個或者某幾個變量的模型作為基礎(chǔ),加入系數(shù)為0的新變量,通過計算似然函數(shù)的一階 偏導(dǎo)數(shù)和信息矩陣,取兩者的乘積作為最終的統(tǒng)計量。
這三種方法中,似然比檢驗是最可靠,也是最常用的一種變量篩選方法。在變量存在共線性時,Wald檢驗結(jié)果不可靠。另 外,實際應(yīng)用是以上三種方法,都可以采用向前或者向后逐步的方式進行變量篩選。
另外在邏輯回歸模型里,我們需要使得自變量和因變量的對數(shù)存在線性關(guān)系。如果發(fā)現(xiàn)實際的變量不符合,可以通過篩選 變量,變量轉(zhuǎn)換等方式進行調(diào)整。另外變量轉(zhuǎn)換也可以避免異常值對結(jié)果造成偏差。
前面提到,邏輯回歸的模型參數(shù)估計通常采用的是最大似然函數(shù)法,因此理論上需要有一定量的樣本才能采用這種方法, 否則檢驗公式就是不合理的。另外也需要注意的是,邏輯回歸的模型無法解決多重共線性的問題,因此在輸入變量前,對 變量進行檢驗和清洗是非常必要的。 得到模型后,我們可以通過混淆矩陣和ROC曲線來評判模型的效果。
靈敏度指的是模型“擊中”的概率,也就是對于實際發(fā)生(取值為1)的樣本,模型預(yù)測為1的概率。對應(yīng)上圖的公式為 A/(A+B)。
特異度指的是模型“正確否定”的概率,也就是說對于實際沒發(fā)生(取值為0)的樣本,模型預(yù)測為0的概率。對應(yīng)上圖 的公式為D/(C+D)。
因此,可以看到不管是靈敏度還是特異度,都是越高,說明我們的模型越有效。在實際應(yīng)用中,由于邏輯回歸模型計算 的結(jié)果其實是一個相對可能性p,因此我們可以根據(jù)實際情況調(diào)整判斷取值為1的p的標(biāo)準(zhǔn)。更有側(cè)重性地提高靈敏度或 者特異度。
3.ROC曲線
除了使用混淆矩陣,我們還可以通過ROC曲線的方式來圖形化地判斷模型效果。
ROC曲線也是基于靈敏度和特異度來進行判斷的。曲線下面積AUC 指的是ROC曲線、底線和右側(cè)線圍成的面積。ROC曲線的面積一般 在0.5-1之間。這個數(shù)值越接近1,表明模型預(yù)測能力越強。當(dāng)AUC 在0.7-0.9時,我們認(rèn)為模型有較高的判斷作用。而AUC接近0.5的 時候,我們?nèi)藶檫@個模型是無效的。
在實際業(yè)務(wù)中,我們一般利用二分類邏輯回歸作為篩選目標(biāo)客戶的 主要手段。不管是識別明星客戶、流失客戶,甚至是可能存在違約 或者欺詐行為的客戶,都可以采用這種方法。
1. 某客戶為欺詐的概率為0.4,則優(yōu)勢odds為( )?
A. 0.4
B .2 / 3
C. 3 / 2
D. 0.6
答案:B 解析:該題考核了二分類變量分析的基礎(chǔ)知識。Odds的定義是顯性結(jié)果的概率比上非顯性結(jié)果的概率,因此為0.4 / 0.6,等 于2 / 3。
2. 建立邏輯回歸時,為什么有時候需要對連續(xù)變量進行分箱處理?
A. 避免變量的共線性
B. 捕獲原始連續(xù)變量和被解釋變量之間非線性關(guān)系
C. 避免異常值影響
答案:BC 解析:如果發(fā)現(xiàn)解釋變量與反應(yīng)變量之間相關(guān),但又不呈現(xiàn)線性關(guān)系時,往往會對解釋變量進行分箱,同時分箱也能夠消除極端值。 因此選BC。
點擊CDA題庫鏈接,獲取免費版CDA題庫入口,祝考試順利,快速拿證!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10