SAS信用評分之邏輯回歸的變量選擇

關于woe的轉化，這一部在之前的這篇文章：sas批量輸出變量woe值中已經寫了，woe也只是簡單的公式轉化而已，所以在這系列中就不細究了哈。這次的文章我想來講邏輯回歸。你會說邏輯回歸就是三個方法：backword stepword forward有什么好講的。如果你這么說，你的模型就只能停留在機器給你什么結果就是什么結果，那就low了哈。
                   
   為什么這么說呢？是因為我發(fā)現(xiàn)譬如你輸入了300個變量，你設定了sle和sls的顯著性水平都是0.05，那么只要是滿足“sle和sls的顯著性水平都是0.05”的變量就會被篩選出來，這時候就有問題，輸入的300個變量中，至少有30個變量是滿足上面的顯著性水平的條件的，那么你這30個變量難道都要用的模型中嗎？

你說可以，你領導都會跟你說不可以，會過擬合，過擬合意味著什么，評分卡在AB兩級的客戶極少（因為需要滿足的條件多），在cde級的客戶很多，加入以前100個人來申請，是30個人可以通過的，但是現(xiàn)在你做了模型100個人中只有10個人能通過，那這10個人肯定好的啊。這樣子逾期率是降低了，但是批核率也降低了，通過的人少了，老板就問你，你這是讓公司怎么賺錢?。?！。

  那么這時候我們應該做什么，就是精減變量，讓只用十幾個變量達到30個變量的效果，當然這種30個變量的效果可能很好，但是我們盡量是做到用十幾個變量達到30個變量的效果啦。譬如，30個變量達到的ks值是0.326，那么你13個變量可以達到0.316，那也足夠拉。

那么現(xiàn)在先貼一個單獨的proc logistic 過程。

Ods Output ParameterEstimates=aa ;
proc logistic data=test.RONG_ZX_total12_3 outest=bb ;
model APPL_STATUS_1(event="0")=
woe_N_a_nine_rate
woe_N_t_CREDIT_f
woe_N_ACCOUNT_CREDITCARD
woe_N_q_othree_cnt
woe_N_q_tlttwelve_cnt
woe_N_cq_cc_rate
woe_N_OPERATOR_num_S
woe_N_CREDOO_SCORE_o
woe_N_CALL_PAY_mrate
woe_n_g_MARITAL_P
woe_n_NAME_CITY
woe_n_industry_o
woe_n_EDUCATION
/selection=s sle=0.05 sls=0.05;
output out=pp
    p=pred_status lower=pi_l upper=pi_u;
run;
proc npar1way data=pp noprint;
      class APPL_STATUS_1;
      var pred_status;
      output out=ks_1(keep=_d_ p_ksa rename=(_d_=KS p_ksa=P_value));
run;
 這是我在建模中的一個例子。后面的proc npar1way是計算ks值的。
這里是我隨便選了13個變量出來，然后跑了一下ks值，但是這里有個問題就是那我怎么知道這30個變量中到底哪13個，難道我要一直試嘛，這樣子很浪費我的時間也。所以我一早上就在糾結這個問題，但是我又百度不到sas中怎么實現(xiàn)C2013隨機數(shù)的產生。所以我在糾結中就想出以下這種方法，不過要是哪位大神指導C2013 怎么實現(xiàn)還是希望留言區(qū)指導，我可以繼續(xù)學習。
那么接下來就貼下我的代碼吧，代碼就是以ks為衡量指標，希望找出一種組合的ks是比較高的。
%macro var_namelist(data=,coltype=,tarvar=,dsor=);
    %let lib=%upcase(%scan(&data.,1,'.'));
    %let dname=%upcase(%scan(&data.,2,'.'));
    %global var_list var_num;
    proc sql ;
      create table &dsor. as
        select name
        from sashelp.VCOLUMN
        where left(libname)="&lib." and left(memname)="&dname." and type="&coltype." and lowcase(name)^=lowcase("&tarvar.") ;
    quit;
%mend;
%macro pub_survey(data,dvar,n,start,end,by);
proc datasets lib=work;
delete result_1;
run;
%do i=&start. %to &end. %by &by.;
%var_namelist(data=&data.,coltype=num,tarvar=&dvar.,dsor=aa);
proc surveyselect data=aa
out=bb
method =srs
n=&n.
seed =&i.;
run;
data _null_;
set bb;
call symput (compress("var"||left(_n_)),compress(name));
call symput(compress("n"),compress(_n_));
run;
 %put &var1.;
Ods Output ParameterEstimates=gg ;
proc logistic data=&data. outest=bb ;
model &Dvar. (event="0")=
&var1. &var2. &var3. &var4. &var5. &var6. &var7. &var8. &var9. &var10. &var11.
&var12. &var13.
/selection=s sle=0.05 sls=0.05;
output out=pp
    p=pred_status lower=pi_l upper=pi_u;
run;
proc npar1way data=pp noprint;
      class &Dvar.;
      var pred_status;
      output out=ks_1(keep=_d_ p_ksa rename=(_d_=KS p_ksa=P_value));
run;
data result;
set ks_1(keep=ks);
length value $500.;
value=compress("&var1."||","||"&var2."||","||"&var3."||","||"&var4."||","||"&var5."||","||"&var6."||","||"&var7."||","||"&var8."||","||"&var9."||","||"&var10."||","||"&var11."||","||"&var12."||","||"&var13.");
run;
Proc append base=result_1 data=result force;run;
%end ;
proc sort data=result_1;by ks;
run;
%mend;

老樣子啦，說下這宏怎么用。宏都是我調試過，應該沒錯，就是你的原數(shù)據(jù)集，要只留下你要用來循環(huán)的變量以及因變量，別的你都不要哈，乖，聽我話。
Data：填入的是原數(shù)據(jù)集；
Dvar：填入因變量
N：填入你想最終模型的個數(shù)，建議10-15個吧。
Start：這里填的是seed種子數(shù)，次種子出不來.avi哈。建議是4位數(shù)以上，不知道sas隨機過程中seed的種子數(shù)的自行百度。
End：你要種子循環(huán)的盡頭。盡量設大點，我是建議循環(huán)個1000 2000次最好啦。
By：種子循環(huán)的區(qū)間，就是你是每隔200個數(shù)取一個數(shù)還是20個數(shù)之間取一個數(shù)。譬如你設定start=1000，end=1500,by=100,那就是種子等于1000，1100,1200,1300,1400,1500這五個數(shù)。再強調一次，輸入數(shù)據(jù)集值保留你要這篩選的變量以及因變量，其余的主鍵什么的，你別加進去哈。
好的，這時候我要上結果圖了：

 這就是結果圖。Ks升序排序，可以看到我循環(huán)了三次，最好的是第三次，帥選的13個變量里面，ks可以達到0.301，變量value中就是達到ks值的13個變量。但這只是我循環(huán)三次的結果啦。我是建議最好循環(huán)個1000次2000次。你就下班的時候放著跑，明天上班來收成果就好了，上班時間盯著屏幕。是跑不完的。數(shù)據(jù)分析師培訓