這里有些關(guān)鍵的機器學(xué)習(xí)概念可以幫助我們理解這一領(lǐng)域的相關(guān)知識。

在這篇文章中，你會接觸到一些相關(guān)的專業(yè)術(shù)語(常用的術(shù)語)，它們用來描述數(shù)據(jù)和數(shù)據(jù)集。你也會學(xué)習(xí)到一些相關(guān)概念和術(shù)語，它們用來描述數(shù)據(jù)的學(xué)習(xí)和建模過程，而這些又給你的學(xué)習(xí)旅程提供了一些關(guān)于機器學(xué)習(xí)的寶貴經(jīng)驗。

數(shù)據(jù)

機器學(xué)習(xí)方法可以從實際案例進行學(xué)習(xí)。對于我們來說，掌握數(shù)據(jù)的輸入和各種描述數(shù)據(jù)的術(shù)語是很重要的，而在這一部分中，你會在涉及到數(shù)據(jù)的機器學(xué)習(xí)中學(xué)到一些相關(guān)術(shù)語。

但我在思考數(shù)據(jù)是什么樣的時候，我的感覺一般都是行和列，就像是一個數(shù)據(jù)集圖表或者是Excel的電子表。這是數(shù)據(jù)的傳統(tǒng)格式，而且在機器學(xué)習(xí)中也是一種常見的格。其它數(shù)據(jù)如圖像、視頻，以及文本，而所謂的沒有結(jié)構(gòu)的數(shù)據(jù)并不會在這篇文章中進行描述。

展示一個相關(guān)例子、特征和數(shù)據(jù)集的形式的數(shù)據(jù)的圖表

實例：數(shù)據(jù)的單行稱之為實例。這是某一個域所觀察的結(jié)果。

特征：數(shù)據(jù)的單列稱之為特征。它是觀察的一個組成部分，而它也被稱之為一個數(shù)據(jù)實例的屬性。一些特征也許會輸入一個模型(預(yù)測值)，而其它可能有輸出或預(yù)測的特征。

數(shù)據(jù)類型：特征有其數(shù)據(jù)類型。它們也許是真實數(shù)或者是整數(shù)，又或者是分類值又或者又是序數(shù)。你可以有字符串、日期、時間或更多復(fù)雜的數(shù)據(jù)類型。但是，通常情況下，它們都會在使用傳統(tǒng)機器學(xué)習(xí)方法的時候被換算成實數(shù)或者是分類值。

數(shù)據(jù)集：實例的集合是一個數(shù)據(jù)集，而且當(dāng)我們使用傳統(tǒng)機器學(xué)習(xí)方法的時候，我們通常需要幾個不同的數(shù)據(jù)集處理不同的問題。

訓(xùn)練數(shù)據(jù)集：訓(xùn)練數(shù)據(jù)集就是一個我們通過使用機器學(xué)習(xí)算法進行建模的數(shù)據(jù)集。

測試數(shù)據(jù)集：一個用于檢驗我們模型精準(zhǔn)度而不用于建模的數(shù)據(jù)集。我們可以把它稱之為檢驗數(shù)據(jù)集。

我們也許會收集一些實例來建立我們的數(shù)據(jù)集，或者給定一個有限數(shù)據(jù)集，我們需要把它分解成若干個子數(shù)據(jù)集。

學(xué)習(xí)

機器學(xué)習(xí)，確切來說是一個動態(tài)的學(xué)習(xí)算法。在這一部分中，我們會考慮幾個學(xué)習(xí)方面的高級概念。

前序：機器學(xué)習(xí)算法通過一個叫歸納或者歸納學(xué)習(xí)的方法進行學(xué)習(xí)。歸納是一個合理的過程，它可以從一些特殊信息(訓(xùn)練數(shù)據(jù))進行概括總結(jié)。

概括：概括這一過程是必要的，那是因為模型是由機器學(xué)習(xí)算法為我們準(zhǔn)備的，而我們需要用這個模型，基于在訓(xùn)練過程中我們看不到的數(shù)據(jù)，我們會對它們進行預(yù)測或決策。

過度學(xué)習(xí)：當(dāng)一個模型從一些訓(xùn)練數(shù)據(jù)中學(xué)習(xí)過多而不能進行概括的時候，這個過程稱之為過度學(xué)習(xí)。結(jié)果就是處理數(shù)據(jù)的性能很差，而它有不同于訓(xùn)練數(shù)據(jù)。這也稱之為過度擬合。

缺乏學(xué)習(xí)：當(dāng)一個模型因為與它們相關(guān)的數(shù)據(jù)集提前結(jié)束學(xué)習(xí)過程，從而導(dǎo)致這個模型無法獲得一個完整的結(jié)果，這就稱之為缺乏學(xué)習(xí)。它的結(jié)果則是可以作一個好的概括但是對所有數(shù)據(jù)，包括訓(xùn)練數(shù)據(jù)集在內(nèi)的處理的性能卻很差。這也稱之為欠擬合。

在線學(xué)習(xí)：在線學(xué)習(xí)就是當(dāng)一個域變得可用的時候，這種方法會從來自這個域的數(shù)據(jù)實例進行更新。在線學(xué)習(xí)需要數(shù)據(jù)在噪音情況下具有很強的健壯性，但是也要產(chǎn)生一個符合這個域當(dāng)前狀態(tài)的模型。

線下學(xué)習(xí)：線下學(xué)習(xí)就是一個通過現(xiàn)成的數(shù)據(jù)進行創(chuàng)建的方法，而這個方法對未被觀察的數(shù)據(jù)進行相關(guān)操作。這個訓(xùn)練過程可以被很好的控制和調(diào)整，原因在于訓(xùn)練數(shù)據(jù)的范圍是未知的。在這個模型早已被創(chuàng)建好，同時在相關(guān)域發(fā)生了改變從而導(dǎo)致模型的性能可能被改變的情況下，這個模型不再進行更新。

監(jiān)督學(xué)習(xí)：這是一個針對需要進行相關(guān)預(yù)測的問題進行概括的學(xué)習(xí)過程。一個“教學(xué)”過程會與一個有未知答案的模型進行比較，并對模型進行修正。

非監(jiān)督學(xué)習(xí)：這是一個對不需要預(yù)測的數(shù)據(jù)的結(jié)果進行概括的學(xué)習(xí)過程。默認(rèn)情況下，數(shù)據(jù)的結(jié)構(gòu)都可以得到相關(guān)的確認(rèn)和利用。

我們在之前的一篇文章 machinelearning algorithms就已經(jīng)對監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)過程進行詳細(xì)的闡述。

建模

一個由機器學(xué)習(xí)創(chuàng)建的產(chǎn)品被視為是一個程序的權(quán)利。

模型選擇：我們可以這樣認(rèn)為，模型的設(shè)定和訓(xùn)練過程就是模型的選擇過程。對于我們所擁有的每個模型的迭代可以讓我們選擇是直接使用這個模型，還是對它進行修改，甚至，算法的選擇也是模型選擇過程的一部分。然而，每個模型都存在一個共同的問題，那就是對于一個可能被選到的數(shù)據(jù)集的一個給定的模型以及模型的設(shè)置會提供一個最終的模型選擇。

誘導(dǎo)偏差：偏差就是選定模型所產(chǎn)生的限制。每個模型都存在其自己的偏差，這也引入了模型的誤差，以及對每個模型進行定義時產(chǎn)生的誤差(它們是來自觀察的概括)。偏差是通過一個包含模型的設(shè)定以及產(chǎn)生一個模型的算法的模型所做的概括引入的。一個機器學(xué)習(xí)方法可以創(chuàng)建一個或高或低的模型，而相關(guān)的手段可以對一個誤差較高的基本模型進行一定程度的誤差消除。

模型方差：方差就是檢驗對已經(jīng)進行過訓(xùn)練的數(shù)據(jù)建立的模型是否靈敏的術(shù)語。一個由數(shù)據(jù)集產(chǎn)生的模型的機器學(xué)習(xí)方法，都有一個或大或小的方差，而消除方差的相關(guān)手段有在不同的初始化環(huán)境下對一個數(shù)據(jù)集進行重復(fù)運行，然后取平均值精準(zhǔn)度作為模型性能好壞的參考標(biāo)準(zhǔn)。

偏差方差權(quán)衡：模型的選擇可以被認(rèn)為是一個權(quán)衡偏差和方差的過程。一個誤差較小的模型有較大的方差，這時我們要對相關(guān)數(shù)據(jù)進行多長且長時間的訓(xùn)練以求得到一個合適的模型。一個誤差較高的模型往往其方差比較小，所以訓(xùn)練時間短一點，但是要承擔(dān)性能差的后果。