關(guān)于推薦算法的一些思考

最近做了一個交叉銷售的項目，梳理了一些關(guān)鍵點，分享如下，希望對大家有所啟發(fā)

核心目標：在有限資源下，盡可能的提供高轉(zhuǎn)化率的用戶群，輔助業(yè)務(wù)增長

初步效果：商家ROI值為50以上，用戶日轉(zhuǎn)化率提升10倍以上，用戶日最低轉(zhuǎn)化效果5pp以上

以下為正文：

數(shù)據(jù)準備：

1.商品相關(guān)性

存在商品A,B,C...，商品之間用戶會存在行為信息的關(guān)聯(lián)度，這邊可以參考協(xié)調(diào)過濾算法中的Item-based，這邊拓展為用戶在不同商品之間的操作行為的差異性。

可以形成如下的特征矩陣：

這邊相關(guān)的常見度量方式有以下幾種：

a.距離衡量

包括瀏覽、點擊、搜索等等各種行為的歐式、馬氏、閔式、切比雪夫距離、漢明距離計算

b.相似度衡量

包括余弦相似度、杰卡德相似度衡量

c.復(fù)雜衡量

包括相關(guān)性衡量，熵值衡量，互信息量衡量，相關(guān)距離衡量

2.商品行為信息

探求商品及其對應(yīng)行為信息的笛卡爾積的映射關(guān)系，得到一個商品+用戶的行為魔方

商品集合：{商品A、商品B、...}
商品屬性集合：{價格、是否打折、相比其他電商平臺的比價、是否缺貨...}
用戶行為集合：{瀏覽次數(shù)、瀏覽時長、末次瀏覽間隔、搜索次數(shù)、末次搜索間隔...}

通過商品集合*商品屬性集合*用戶行為集合,形成高維的商品信息魔方，再通過探查算法，篩選優(yōu)秀表現(xiàn)的特征，這里推薦的有pca，randomforest的importance，lasso變量壓縮，相關(guān)性壓縮，逐步回歸壓縮等方法，根據(jù)數(shù)據(jù)的屬性特點可適當(dāng)選取方法

最后，我們會得到如下一個待選特征組：

3.商品購買周期

針對每一件商品，都是有它自身的生命周期的，比如，在三個月內(nèi)買過冰箱的用戶，95%以上的用戶是不會選擇二次購買的；而在1個月的節(jié)點上，會有20%的用戶會選擇二次購買生活用紙。所以我們需要做的一件事情就是不斷更新，平臺上面每個類目下面的商品的自身生命周期。除此之外，考慮在過渡時間點，用戶的需求變化情況，是否可以提前觸發(fā)需求；這邊利用，艾賓浩斯遺忘曲線和因子衰減規(guī)律擬合：

確定lamda和b，計算每個用戶對應(yīng)的每個類目，當(dāng)前時間下的剩余價值：f（最高價值）*lamda*b

4.商品挖掘特征，用戶挖掘特征

業(yè)務(wù)運營過程中，通過數(shù)據(jù)常規(guī)可以得到1.基礎(chǔ)結(jié)論，2.挖掘結(jié)論。基礎(chǔ)結(jié)論就是統(tǒng)計結(jié)論，比如昨日訂單量，昨日銷售量 ，昨日用戶量；挖掘結(jié)論就是深層結(jié)論，比如昨日活躍用戶數(shù)，每日預(yù)估銷售量，用戶生命周期等

存在如下的探索形式，這是一個漫長而又非常有價值的過程：

再確定以上四大類的數(shù)據(jù)特征之后，我們通過組合模型的方法，判斷用戶的交叉銷售結(jié)果

1.cart regression

確保非線性密度均勻數(shù)據(jù)擬合效果，針對存在非線性關(guān)系且數(shù)據(jù)可被網(wǎng)格切分的產(chǎn)業(yè)用戶有高的預(yù)測能力

2.ridge regression

確?？删€性擬合及特征繁多數(shù)據(jù)的效果，針對存在線性關(guān)系的產(chǎn)業(yè)用戶有高的預(yù)測能力

3.Svm-liner

確保線性且存在不可忽視的異常點的數(shù)據(jù)擬合效果，針對存在異常用戶較多的部分產(chǎn)業(yè)用戶有高的預(yù)測能力

4.xgboost

確保數(shù)據(jù)復(fù)雜高維且無明顯關(guān)系的數(shù)據(jù)擬合效果，針對存在維度高、數(shù)據(jù)雜亂、無模型規(guī)律的部分產(chǎn)業(yè)用戶有高的預(yù)測能力

以上的組合模型并非固定，也并非一定全部使用，在確定自身產(chǎn)業(yè)的特點后，擇優(yōu)選擇，然后采取投票、加權(quán)、分組等組合方式產(chǎn)出結(jié)果即可。

附上推薦Rcode簡述，

cart regression：

library(rpart)

fit <- rpart(y~x, data=database, method="class",control=ct, parms = list(prior = c(0.7,0.3), split = "information"));

## xval是n折交叉驗證
## minsplit是最小分支節(jié)點數(shù)，設(shè)置后達不到最小分支節(jié)點的話會繼續(xù)分劃下去
## minbucket：葉子節(jié)點最小樣本數(shù)
## maxdepth：樹的深度
## cp全稱為complexity parameter，指某個點的復(fù)雜度，對每一步拆分,模型的擬合優(yōu)度必須提高的程度
## kyphosis是rpart這個包自帶的數(shù)據(jù)集
## na.action：缺失數(shù)據(jù)的處理辦法，默認為刪除因變量缺失的觀測而保留自變量缺失的觀測。
## method：樹的末端數(shù)據(jù)類型選擇相應(yīng)的變量分割方法:
## 連續(xù)性method=“anova”,離散型method=“class”,計數(shù)型method=“poisson”,生存分析型method=“exp”
## parms用來設(shè)置三個參數(shù):先驗概率、損失矩陣、分類純度的度量方法（gini和information）
## cost我覺得是損失矩陣，在剪枝的時候，葉子節(jié)點的加權(quán)誤差與父節(jié)點的誤差進行比較，考慮損失矩陣的時候，從將“減少-誤差”調(diào)整為“減少-損失”

ridge regression：

library（glmnet）

glmmod<-glmnet(x,y,family = 'guassian',alpha = 0)

最小懲罰：

glmmod.min<-glmnet(x,y,family = 'gaussian',alpha = 0,lambda = glmmod.cv$lambda.min)

1個標準差下的最小懲罰：

glmmod.1se<-glmnet(x,y,family = 'gaussian',alpha = 0,lambda = glmmod.cv$lambda.1se)

Svm-liner ：

library(e1071)

svm(x, y, scale = TRUE, type = NULL, kernel = "",degree = 3, gamma = if (is.vector(x)) 1 else 1 / ncol(x),coef0 = 0, cost = 1, nu = 0.5, subset, na.action = na.omit)

##type用于指定建立模型的類別:C-classification、nu-classification、one-classification、eps-regression和nu-regression

##kernel是指在模型建立過程中使用的核函數(shù)

##degree參數(shù)是指核函數(shù)多項式內(nèi)積函數(shù)中的參數(shù)，其默認值為3

##gamma參數(shù)給出了核函數(shù)中除線性內(nèi)積函數(shù)以外的所有函數(shù)的參數(shù)，默認值為l

##coef0參數(shù)是指核函數(shù)中多項式內(nèi)積函數(shù)與sigmoid內(nèi)積函數(shù)中的參數(shù)，默認值為0

##參數(shù)cost就是軟間隔模型中的離群點權(quán)重

##參數(shù)nu是用于nu-regression、nu-classification和one-classification類型中的參數(shù)

xgboost:

library(xgboost)

xgb <- xgboost(data = data.matrix(x[,-1]), label = y, eta = 0.1,max_depth = 15, nround=25, subsample = 0.5,colsample_bytree = 0.5,seed = 1,eval_metric = "merror",objective = "multi:softprob",num_class = 12, nthread = 3)

##eta：默認值設(shè)置為0.3。步長，控制速度及擬合程度

##gamma:默認值設(shè)置為0。子樹葉節(jié)點個數(shù)

##max_depth:默認值設(shè)置為6。樹的最大深度

##min_child_weight:默認值設(shè)置為1?？刂谱訕涞臋?quán)重和

##max_delta_step：默認值設(shè)置為0。控制每棵樹的權(quán)重

##subsample： 默認值設(shè)置為1。抽樣訓(xùn)練占比

##lambda and alpha：正則化