
訓練集、驗證集和測試集的意義
在有監(jiān)督的機器學習中,經(jīng)常會說到訓練集(train)、驗證集(validation)和測試集(test),這三個集合的區(qū)分可能會讓人糊涂,特別是,有些讀者搞不清楚驗證集和測試集有什么區(qū)別。
I. 劃分
如果我們自己已經(jīng)有了一個大的標注數(shù)據(jù)集,想要完成一個有監(jiān)督模型的測試,那么通常使用均勻隨機抽樣的方式,將數(shù)據(jù)集劃分為訓練集、驗證集、測試集,這三個集合不能有交集,常見的比例是8:1:1,當然比例是人為的。從這個角度來看,三個集合都是同分布的。
如果是做比賽,官方只提供了一個標注的數(shù)據(jù)集(作為訓練集)以及一個沒有標注的測試集,那么我們做模型的時候,通常會人工從訓練集中劃分一個驗證集出來。這時候我們通常不再劃分一個測試集,可能的原因有兩個:1、比賽方基本都很摳,訓練集的樣本本來就少;2、我們也沒法保證要提交的測試集是否跟訓練集完全同分布,因此再劃分一個跟訓練集同分布的測試集就沒多大意義了。
II. 參數(shù)
有了模型后,訓練集就是用來訓練參數(shù)的,說準確點,一般是用來梯度下降的。而驗證集基本是在每個epoch完成后,用來測試一下當前模型的準確率。因為驗證集跟訓練集沒有交集,因此這個準確率是可靠的。那么為啥還需要一個測試集呢?
這就需要區(qū)分一下模型的各種參數(shù)了。事實上,對于一個模型來說,其參數(shù)可以分為普通參數(shù)和超參數(shù)。在不引入強化學習的前提下,那么普通參數(shù)就是可以被梯度下降所更新的,也就是訓練集所更新的參數(shù)。另外,還有超參數(shù)的概念,比如網(wǎng)絡層數(shù)、網(wǎng)絡節(jié)點數(shù)、迭代次數(shù)、學習率等等,這些參數(shù)不在梯度下降的更新范圍內(nèi)。盡管現(xiàn)在已經(jīng)有一些算法可以用來搜索模型的超參數(shù),但多數(shù)情況下我們還是自己人工根據(jù)驗證集來調(diào)。
III. 所以
那也就是說,從狹義來講,驗證集沒有參與梯度下降的過程,也就是說是沒有經(jīng)過訓練的;但從廣義上來看,驗證集卻參與了一個“人工調(diào)參”的過程,我們根據(jù)驗證集的結(jié)果調(diào)節(jié)了迭代數(shù)、調(diào)節(jié)了學習率等等,使得結(jié)果在驗證集上最優(yōu)。因此,我們也可以認為,驗證集也參與了訓練。
那么就很明顯了,我們還需要一個完全沒有經(jīng)過訓練的集合,那就是測試集,我們既不用測試集梯度下降,也不用它來控制超參數(shù),只是在模型最終訓練完成后,用來測試一下最后準確率。
IV. 然而
聰明的讀者就會類比到,其實這是一個無休止的過程。如果測試集準確率很差,那么我們還是會去調(diào)整模型的各種參數(shù),這時候又可以認為測試集也參與訓練了。好吧,我們可能還需要一個“測試測試集”,也許還需要“測試測試測試集”...
算了吧,還是在測試集就停止吧。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經(jīng)網(wǎng)絡(RNN)家族中,長短期記憶網(wǎng)絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數(shù)據(jù)查詢到趨勢預判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網(wǎng)絡(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調(diào)研數(shù)據(jù)中的深度應用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03