這里有些關(guān)鍵的機(jī)器學(xué)習(xí)概念可以幫助我們理解這一領(lǐng)域的相關(guān)知識(shí)。

在這篇文章中，你會(huì)接觸到一些相關(guān)的專業(yè)術(shù)語(yǔ)(常用的術(shù)語(yǔ))，它們用來(lái)描述數(shù)據(jù)和數(shù)據(jù)集。你也會(huì)學(xué)習(xí)到一些相關(guān)概念和術(shù)語(yǔ)，它們用來(lái)描述數(shù)據(jù)的學(xué)習(xí)和建模過程，而這些又給你的學(xué)習(xí)旅程提供了一些關(guān)于機(jī)器學(xué)習(xí)的寶貴經(jīng)驗(yàn)。

數(shù)據(jù)

機(jī)器學(xué)習(xí)方法可以從實(shí)際案例進(jìn)行學(xué)習(xí)。對(duì)于我們來(lái)說，掌握數(shù)據(jù)的輸入和各種描述數(shù)據(jù)的術(shù)語(yǔ)是很重要的，而在這一部分中，你會(huì)在涉及到數(shù)據(jù)的機(jī)器學(xué)習(xí)中學(xué)到一些相關(guān)術(shù)語(yǔ)。

但我在思考數(shù)據(jù)是什么樣的時(shí)候，我的感覺一般都是行和列，就像是一個(gè)數(shù)據(jù)集圖表或者是Excel的電子表。這是數(shù)據(jù)的傳統(tǒng)格式，而且在機(jī)器學(xué)習(xí)中也是一種常見的格。其它數(shù)據(jù)如圖像、視頻，以及文本，而所謂的沒有結(jié)構(gòu)的數(shù)據(jù)并不會(huì)在這篇文章中進(jìn)行描述。

展示一個(gè)相關(guān)例子、特征和數(shù)據(jù)集的形式的數(shù)據(jù)的圖表

實(shí)例：數(shù)據(jù)的單行稱之為實(shí)例。這是某一個(gè)域所觀察的結(jié)果。

特征：數(shù)據(jù)的單列稱之為特征。它是觀察的一個(gè)組成部分，而它也被稱之為一個(gè)數(shù)據(jù)實(shí)例的屬性。一些特征也許會(huì)輸入一個(gè)模型(預(yù)測(cè)值)，而其它可能有輸出或預(yù)測(cè)的特征。

數(shù)據(jù)類型：特征有其數(shù)據(jù)類型。它們也許是真實(shí)數(shù)或者是整數(shù)，又或者是分類值又或者又是序數(shù)。你可以有字符串、日期、時(shí)間或更多復(fù)雜的數(shù)據(jù)類型。但是，通常情況下，它們都會(huì)在使用傳統(tǒng)機(jī)器學(xué)習(xí)方法的時(shí)候被換算成實(shí)數(shù)或者是分類值。

數(shù)據(jù)集：實(shí)例的集合是一個(gè)數(shù)據(jù)集，而且當(dāng)我們使用傳統(tǒng)機(jī)器學(xué)習(xí)方法的時(shí)候，我們通常需要幾個(gè)不同的數(shù)據(jù)集處理不同的問題。

訓(xùn)練數(shù)據(jù)集：訓(xùn)練數(shù)據(jù)集就是一個(gè)我們通過使用機(jī)器學(xué)習(xí)算法進(jìn)行建模的數(shù)據(jù)集。

測(cè)試數(shù)據(jù)集：一個(gè)用于檢驗(yàn)我們模型精準(zhǔn)度而不用于建模的數(shù)據(jù)集。我們可以把它稱之為檢驗(yàn)數(shù)據(jù)集。

我們也許會(huì)收集一些實(shí)例來(lái)建立我們的數(shù)據(jù)集，或者給定一個(gè)有限數(shù)據(jù)集，我們需要把它分解成若干個(gè)子數(shù)據(jù)集。

學(xué)習(xí)

機(jī)器學(xué)習(xí)，確切來(lái)說是一個(gè)動(dòng)態(tài)的學(xué)習(xí)算法。在這一部分中，我們會(huì)考慮幾個(gè)學(xué)習(xí)方面的高級(jí)概念。

前序：機(jī)器學(xué)習(xí)算法通過一個(gè)叫歸納或者歸納學(xué)習(xí)的方法進(jìn)行學(xué)習(xí)。歸納是一個(gè)合理的過程，它可以從一些特殊信息(訓(xùn)練數(shù)據(jù))進(jìn)行概括總結(jié)。

概括：概括這一過程是必要的，那是因?yàn)槟Ｐ褪怯?a href='/map/jiqixuexi/' style='color:#000;font-size:inherit;'>機(jī)器學(xué)習(xí)算法為我們準(zhǔn)備的，而我們需要用這個(gè)模型，基于在訓(xùn)練過程中我們看不到的數(shù)據(jù)，我們會(huì)對(duì)它們進(jìn)行預(yù)測(cè)或決策。

過度學(xué)習(xí)：當(dāng)一個(gè)模型從一些訓(xùn)練數(shù)據(jù)中學(xué)習(xí)過多而不能進(jìn)行概括的時(shí)候，這個(gè)過程稱之為過度學(xué)習(xí)。結(jié)果就是處理數(shù)據(jù)的性能很差，而它有不同于訓(xùn)練數(shù)據(jù)。這也稱之為過度擬合。

缺乏學(xué)習(xí)：當(dāng)一個(gè)模型因?yàn)榕c它們相關(guān)的數(shù)據(jù)集提前結(jié)束學(xué)習(xí)過程，從而導(dǎo)致這個(gè)模型無(wú)法獲得一個(gè)完整的結(jié)果，這就稱之為缺乏學(xué)習(xí)。它的結(jié)果則是可以作一個(gè)好的概括但是對(duì)所有數(shù)據(jù)，包括訓(xùn)練數(shù)據(jù)集在內(nèi)的處理的性能卻很差。這也稱之為欠擬合。

在線學(xué)習(xí)：在線學(xué)習(xí)就是當(dāng)一個(gè)域變得可用的時(shí)候，這種方法會(huì)從來(lái)自這個(gè)域的數(shù)據(jù)實(shí)例進(jìn)行更新。在線學(xué)習(xí)需要數(shù)據(jù)在噪音情況下具有很強(qiáng)的健壯性，但是也要產(chǎn)生一個(gè)符合這個(gè)域當(dāng)前狀態(tài)的模型。

線下學(xué)習(xí)：線下學(xué)習(xí)就是一個(gè)通過現(xiàn)成的數(shù)據(jù)進(jìn)行創(chuàng)建的方法，而這個(gè)方法對(duì)未被觀察的數(shù)據(jù)進(jìn)行相關(guān)操作。這個(gè)訓(xùn)練過程可以被很好的控制和調(diào)整，原因在于訓(xùn)練數(shù)據(jù)的范圍是未知的。在這個(gè)模型早已被創(chuàng)建好，同時(shí)在相關(guān)域發(fā)生了改變從而導(dǎo)致模型的性能可能被改變的情況下，這個(gè)模型不再進(jìn)行更新。

監(jiān)督學(xué)習(xí)：這是一個(gè)針對(duì)需要進(jìn)行相關(guān)預(yù)測(cè)的問題進(jìn)行概括的學(xué)習(xí)過程。一個(gè)“教學(xué)”過程會(huì)與一個(gè)有未知答案的模型進(jìn)行比較，并對(duì)模型進(jìn)行修正。

非監(jiān)督學(xué)習(xí)：這是一個(gè)對(duì)不需要預(yù)測(cè)的數(shù)據(jù)的結(jié)果進(jìn)行概括的學(xué)習(xí)過程。默認(rèn)情況下，數(shù)據(jù)的結(jié)構(gòu)都可以得到相關(guān)的確認(rèn)和利用。

我們?cè)谥暗囊黄恼?machinelearning algorithms就已經(jīng)對(duì)監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)過程進(jìn)行詳細(xì)的闡述。

建模

一個(gè)由機(jī)器學(xué)習(xí)創(chuàng)建的產(chǎn)品被視為是一個(gè)程序的權(quán)利。

模型選擇：我們可以這樣認(rèn)為，模型的設(shè)定和訓(xùn)練過程就是模型的選擇過程。對(duì)于我們所擁有的每個(gè)模型的迭代可以讓我們選擇是直接使用這個(gè)模型，還是對(duì)它進(jìn)行修改，甚至，算法的選擇也是模型選擇過程的一部分。然而，每個(gè)模型都存在一個(gè)共同的問題，那就是對(duì)于一個(gè)可能被選到的數(shù)據(jù)集的一個(gè)給定的模型以及模型的設(shè)置會(huì)提供一個(gè)最終的模型選擇。

誘導(dǎo)偏差：偏差就是選定模型所產(chǎn)生的限制。每個(gè)模型都存在其自己的偏差，這也引入了模型的誤差，以及對(duì)每個(gè)模型進(jìn)行定義時(shí)產(chǎn)生的誤差(它們是來(lái)自觀察的概括)。偏差是通過一個(gè)包含模型的設(shè)定以及產(chǎn)生一個(gè)模型的算法的模型所做的概括引入的。一個(gè)機(jī)器學(xué)習(xí)方法可以創(chuàng)建一個(gè)或高或低的模型，而相關(guān)的手段可以對(duì)一個(gè)誤差較高的基本模型進(jìn)行一定程度的誤差消除。

模型方差：方差就是檢驗(yàn)對(duì)已經(jīng)進(jìn)行過訓(xùn)練的數(shù)據(jù)建立的模型是否靈敏的術(shù)語(yǔ)。一個(gè)由數(shù)據(jù)集產(chǎn)生的模型的機(jī)器學(xué)習(xí)方法，都有一個(gè)或大或小的方差，而消除方差的相關(guān)手段有在不同的初始化環(huán)境下對(duì)一個(gè)數(shù)據(jù)集進(jìn)行重復(fù)運(yùn)行，然后取平均值精準(zhǔn)度作為模型性能好壞的參考標(biāo)準(zhǔn)。

偏差方差權(quán)衡：模型的選擇可以被認(rèn)為是一個(gè)權(quán)衡偏差和方差的過程。一個(gè)誤差較小的模型有較大的方差，這時(shí)我們要對(duì)相關(guān)數(shù)據(jù)進(jìn)行多長(zhǎng)且長(zhǎng)時(shí)間的訓(xùn)練以求得到一個(gè)合適的模型。一個(gè)誤差較高的模型往往其方差比較小，所以訓(xùn)練時(shí)間短一點(diǎn)，但是要承擔(dān)性能差的后果。