一、相關(guān)性檢驗(yàn)

列聯(lián)表和卡方檢驗(yàn) 分類變量之間的相關(guān)性一般可以采用列聯(lián)表分析或卡方檢驗(yàn)的方法來(lái)進(jìn)行驗(yàn)證。 列聯(lián)表是兩個(gè)分類變量的分類水平之間形成的交叉頻數(shù)表，通過計(jì)算行百分比或列百分比，對(duì)實(shí)際頻率和期望頻率進(jìn)行對(duì) 比分析，例如一個(gè)典型的列聯(lián)表如下：

對(duì)于表中頻數(shù)、期望頻數(shù)、行/列百分比的解讀方法要熟練掌握。 比如98代表的是頭發(fā)顏色為金色，眼睛顏色為深色的樣本數(shù)量。 而355.2則是期望的數(shù)量。6.7%是行百分比，也就是在所有頭發(fā)顏 色為金色的樣本中，眼睛顏色為深色的占比。

列聯(lián)表是一種比較簡(jiǎn)單的描述性統(tǒng)計(jì)方法，而卡方檢驗(yàn)則可以通過量化的方法對(duì)兩個(gè)分類變量的相關(guān)性進(jìn)行檢驗(yàn)，卡方統(tǒng) 計(jì)量如下：

二、邏輯回歸

在掌握了列聯(lián)表分析和卡方檢驗(yàn)的基礎(chǔ)上，可以學(xué)習(xí)使用邏輯回歸對(duì)分類變量進(jìn)行預(yù)測(cè)。 邏輯回歸主要處理的就是分類問題。事實(shí)上，也可以把他看作是線性回歸一種延伸。我們面對(duì)的因變量，也就是模型輸出 結(jié)果不再是一個(gè)連續(xù)變量，而是一個(gè)分類變量。最常見的邏輯回歸就是二分類變量邏輯回歸，通常我們可以使用這種方法 來(lái)尋找目標(biāo)客戶。

三、邏輯回歸，變量篩選

1.進(jìn)行邏輯回歸時(shí)，我們希望選擇的變量盡可能地有效，避免冗余。常用的變量篩選方法有如下幾種：

Wald檢驗(yàn)：通過Wald統(tǒng)計(jì)量，來(lái)檢驗(yàn)自變量對(duì)因變量的影響能力。Wald越大，說(shuō)明自變量的相關(guān)性越大，越應(yīng)該保留。

似然比檢驗(yàn)(Likehood Ratio)：也是邏輯回歸非常常用的一種檢驗(yàn)方法。邏輯回歸模型的估計(jì)一般是使用最大似然估計(jì)， 也就是說(shuō)找到一個(gè)似然函數(shù)L，使其達(dá)到最大值。L越大，也就說(shuō)明模型的預(yù)測(cè)效果越好。因此似然比檢驗(yàn)本質(zhì)上是對(duì)包 含或者不包含某一個(gè)或者幾個(gè)變量的模型L值進(jìn)行比較，從而做出判斷。

比分檢驗(yàn)(Score Test)：以包含某個(gè)或者某幾個(gè)變量的模型作為基礎(chǔ)，加入系數(shù)為0的新變量，通過計(jì)算似然函數(shù)的一階 偏導(dǎo)數(shù)和信息矩陣，取兩者的乘積作為最終的統(tǒng)計(jì)量。

這三種方法中，似然比檢驗(yàn)是最可靠，也是最常用的一種變量篩選方法。在變量存在共線性時(shí)，Wald檢驗(yàn)結(jié)果不可靠。另 外，實(shí)際應(yīng)用是以上三種方法，都可以采用向前或者向后逐步的方式進(jìn)行變量篩選。

另外在邏輯回歸模型里，我們需要使得自變量和因變量的對(duì)數(shù)存在線性關(guān)系。如果發(fā)現(xiàn)實(shí)際的變量不符合，可以通過篩選 變量，變量轉(zhuǎn)換等方式進(jìn)行調(diào)整。另外變量轉(zhuǎn)換也可以避免異常值對(duì)結(jié)果造成偏差。

前面提到，邏輯回歸的模型參數(shù)估計(jì)通常采用的是最大似然函數(shù)法，因此理論上需要有一定量的樣本才能采用這種方法， 否則檢驗(yàn)公式就是不合理的。另外也需要注意的是，邏輯回歸的模型無(wú)法解決多重共線性的問題，因此在輸入變量前，對(duì) 變量進(jìn)行檢驗(yàn)和清洗是非常必要的。 得到模型后，我們可以通過混淆矩陣和ROC曲線來(lái)評(píng)判模型的效果。

2.混淆矩陣——靈敏度和特異度

靈敏度指的是模型“擊中”的概率，也就是對(duì)于實(shí)際發(fā)生（取值為1）的樣本，模型預(yù)測(cè)為1的概率。對(duì)應(yīng)上圖的公式為 A/(A+B)。

特異度指的是模型“正確否定”的概率，也就是說(shuō)對(duì)于實(shí)際沒發(fā)生（取值為0）的樣本，模型預(yù)測(cè)為0的概率。對(duì)應(yīng)上圖 的公式為D/(C+D)。

因此，可以看到不管是靈敏度還是特異度，都是越高，說(shuō)明我們的模型越有效。在實(shí)際應(yīng)用中，由于邏輯回歸模型計(jì)算 的結(jié)果其實(shí)是一個(gè)相對(duì)可能性p，因此我們可以根據(jù)實(shí)際情況調(diào)整判斷取值為1的p的標(biāo)準(zhǔn)。更有側(cè)重性地提高靈敏度或 者特異度。

3.ROC曲線

除了使用混淆矩陣，我們還可以通過ROC曲線的方式來(lái)圖形化地判斷模型效果。

ROC曲線也是基于靈敏度和特異度來(lái)進(jìn)行判斷的。曲線下面積AUC 指的是ROC曲線、底線和右側(cè)線圍成的面積。ROC曲線的面積一般 在0.5-1之間。這個(gè)數(shù)值越接近1，表明模型預(yù)測(cè)能力越強(qiáng)。當(dāng)AUC 在0.7-0.9時(shí)，我們認(rèn)為模型有較高的判斷作用。而AUC接近0.5的 時(shí)候，我們?nèi)藶檫@個(gè)模型是無(wú)效的。

在實(shí)際業(yè)務(wù)中，我們一般利用二分類邏輯回歸作為篩選目標(biāo)客戶的 主要手段。不管是識(shí)別明星客戶、流失客戶，甚至是可能存在違約 或者欺詐行為的客戶，都可以采用這種方法。

四、例題精講

1. 某客戶為欺詐的概率為0.4，則優(yōu)勢(shì)odds為（ ）？

A. 0.4

B .2 / 3

C. 3 / 2

D. 0.6

答案：B 解析：該題考核了二分類變量分析的基礎(chǔ)知識(shí)。Odds的定義是顯性結(jié)果的概率比上非顯性結(jié)果的概率，因此為0.4 / 0.6，等 于2 / 3。

2. 建立邏輯回歸時(shí)，為什么有時(shí)候需要對(duì)連續(xù)變量進(jìn)行分箱處理?

A. 避免變量的共線性

B. 捕獲原始連續(xù)變量和被解釋變量之間非線性關(guān)系

C. 避免異常值影響

D. 修正殘差非正態(tài)分布

答案：BC 解析：如果發(fā)現(xiàn)解釋變量與反應(yīng)變量之間相關(guān)，但又不呈現(xiàn)線性關(guān)系時(shí)，往往會(huì)對(duì)解釋變量進(jìn)行分箱，同時(shí)分箱也能夠消除極端值。 因此選BC。

點(diǎn)擊CDA題庫(kù)鏈接，獲取免費(fèi)版CDA題庫(kù)入口，?？荚図樌?，快速拿證！