分類模型評價指標(biāo)：精確率、正確率、召回率、F值、ROC、AUC等指標(biāo)。

精確率(precision)是針對我們預(yù)測結(jié)果而言的，它表示的是預(yù)測為正的樣本中有多少是真正的正樣本，也就是precision=TP/(TP+FP)。

而召回率(recall)是針對我們原來的樣本而言的，它表示的是樣本中的正例有多少被預(yù)測正確了，也就是recall=TP/(TP+FN)。

一個分母是預(yù)測為正的樣本數(shù)，另一個是原來樣本中所有的正樣本數(shù)。

準(zhǔn)確率(accuracy)是預(yù)測對的數(shù)量占所有樣本的比例，也就是accuracy= (TP+TN)/(TP+FN+FP+TN)。

F值是精確率和召回率的調(diào)和平均值，精確率和召回率都高的情況下，F(xiàn)值也會高。也就是2/F=1/P+1/R，即F=P*R/2(P+R)=2TP/(2TP+FP+FN)。

評估一個分類器的好壞可以設(shè)一個閾值，大于這個值的為正類，小于這個值為負(fù)類。如果我們減小這個閥值，那么更多的樣本會被識別為正類。這會提高正類的識別率，但同時也會使得更多的負(fù)類被錯誤識別為正類。為了形象化這一變化，在此引入 ROC，ROC 關(guān)注兩個指標(biāo)：true positive rate：TPR=TP/(TP+FN)，false positive rate：FPR=FP/(FP+TN)。TPR 代表能將正例分對的概率，F(xiàn)PR 代表將負(fù)例錯分為正例的概率。在 ROC 空間中，每個點的橫坐標(biāo)是 FPR，縱坐標(biāo)是 TPR，這也就描繪了分類器在 TP（真正率）和 FP（假正率）間的 trade-off2。

AUC（Area Under Curve）被定義為ROC曲線下的面積，顯然這個面積的數(shù)值不會大于1。隨機(jī)挑選一個正樣本以及一個負(fù)樣本，分類器判定正樣本的值高于負(fù)樣本的概率就是 AUC 值。AUC值越大的分類器，正確率越高。

既然已經(jīng)有那么多的評價指標(biāo)，為什么還要使用ROC和AUC呢？

因為ROC曲線有個很好的特性：當(dāng)測試集中的正負(fù)樣本的分布變化的時候，ROC曲線能夠保持不變。在實際的數(shù)據(jù)集中經(jīng)常會出現(xiàn)類不平衡現(xiàn)象，即負(fù)樣本比正樣本多很多或者少很多。

回歸模型的評價指標(biāo)：平均絕對誤差、平均平方誤差。

平均絕對誤差MAE（Mean Absolute Error）又被稱為 l₁ 范數(shù)損失：

平均平方誤差MSE（Mean Squared Error）又被稱為 l₂范數(shù)損失：