交叉驗(yàn)證有哪些方法？適用場(chǎng)景是什么？

1） 留出法

將原始數(shù)據(jù)集分為三部分：訓(xùn)練集、驗(yàn)證集和測(cè)試集，方法簡(jiǎn)單，用于訓(xùn)練的數(shù)據(jù)偏少

2）k 折交叉驗(yàn)證（k-fold cross validation）

k 折交叉驗(yàn)證通過(guò)對(duì) k 個(gè)不同分組訓(xùn)練的結(jié)果進(jìn)行平均來(lái)減少方差，因此模型的性能對(duì)數(shù)據(jù)的劃分就不那么敏感。

數(shù)據(jù)量小的時(shí)候，k 可以設(shè)大一點(diǎn)，這樣訓(xùn)練集占整體比例就比較大，不過(guò)同時(shí)訓(xùn)練的模型個(gè)數(shù)也增多。數(shù)據(jù)量大的時(shí)候，k 可以設(shè)小一點(diǎn)。

3）留一法

k 折交叉驗(yàn)證（k-fold cross validation）中當(dāng) k＝m 即樣本總數(shù)時(shí)，即為留一法。

這個(gè)方法用于訓(xùn)練的數(shù)據(jù)只比整體數(shù)據(jù)集少了一個(gè)樣本，因此最接近原始樣本的分布。
但是訓(xùn)練復(fù)雜度增加了，因?yàn)槟Ｐ偷臄?shù)量與原始數(shù)據(jù)樣本數(shù)量相同。一般在數(shù)據(jù)缺乏時(shí)使用。