神經(jīng)網(wǎng)絡(luò)究竟干了一件什么事

今天我們來(lái)討論當(dāng)下最熱門(mén)的神經(jīng)網(wǎng)絡(luò)，現(xiàn)在深度學(xué)習(xí)炒的非?；?，其實(shí)本質(zhì)還是把神經(jīng)網(wǎng)絡(luò)算法進(jìn)行了延伸和優(yōu)化！咱們這回的目標(biāo)就直入主題用最簡(jiǎn)單的語(yǔ)言讓大家清楚神經(jīng)網(wǎng)絡(luò)究竟是個(gè)什么東西。關(guān)于神經(jīng)網(wǎng)絡(luò)與人工智能的發(fā)展，以及神經(jīng)網(wǎng)絡(luò)各種生物學(xué)模型咱們就不嘮了，我是覺(jué)得把神經(jīng)網(wǎng)絡(luò)比作各種類(lèi)人腦模型和生物學(xué)模型沒(méi)有半點(diǎn)助于咱們理解，反而把簡(jiǎn)單的問(wèn)題復(fù)雜了，這些恩怨情仇咱們就不過(guò)多介紹了！

這張圖就是我們的核心了，也是整個(gè)神經(jīng)網(wǎng)絡(luò)的架構(gòu)，只要能理解這個(gè)，那就OK了！首先我們來(lái)觀察整個(gè)結(jié)構(gòu)，發(fā)現(xiàn)在神經(jīng)網(wǎng)絡(luò)中是存在多個(gè)層的，有輸入層，隱層1，隱層2，輸出層。那么我們想要得到一個(gè)合適的結(jié)果，就必須通過(guò)這么多層得到最終的結(jié)果，在這里咱們先來(lái)考慮一個(gè)問(wèn)題，神經(jīng)網(wǎng)絡(luò)究竟做了一件什么事？

如果你想做一個(gè)貓狗識(shí)別，大家首先想到了神經(jīng)網(wǎng)絡(luò)，那它是怎么做的呢？先來(lái)想想咱們?nèi)祟?lèi)是怎么分辨的，是不是根據(jù)貓和狗的特征是不一樣的，所以我們可以很輕松就知道什么事貓什么是狗。既然這樣，神經(jīng)網(wǎng)絡(luò)要做的事跟咱們一樣，它也需要知道貓的特征是什么，狗的特征是什么，這么多的層次結(jié)構(gòu)其實(shí)就做了一件事，進(jìn)行特征提取，我們希望網(wǎng)絡(luò)結(jié)構(gòu)能更好的識(shí)別出來(lái)我們想要的結(jié)果，那勢(shì)必需要它們能提取處最合適的特征，所以神經(jīng)網(wǎng)絡(luò)的強(qiáng)大之處就在于它可以幫助我們更好的選擇出最恰當(dāng)?shù)?a href='/map/tezheng/' style='color:#000;font-size:inherit;'>特征。

在第一張圖中我們定義了多層的結(jié)構(gòu)，在這里有一個(gè)概念叫做神經(jīng)元，那么神經(jīng)元真的存在嗎？像大腦一樣？其實(shí)就是一個(gè)權(quán)重參數(shù)矩陣，比如你有一個(gè)輸入數(shù)據(jù)。它是由3個(gè)特征組成的，我們就說(shuō)輸入是一個(gè)batchsize*3的矩陣，（batchsieze是一次輸入的數(shù)據(jù)量大?。?，那既然要對(duì)輸入提取特征，我們就需要權(quán)重參數(shù)矩陣W了，在圖中神經(jīng)元的意思就是我們要把這個(gè)3個(gè)特征如何變幻才能得到更好的信息表達(dá)，比如中間的第一個(gè)隱層有4個(gè)神經(jīng)元，那么我們需要的第一個(gè)權(quán)重參數(shù)矩陣W1就是3 * 4，表示通過(guò)矩陣鏈接后得到的是batchsize * 4的特征，也就是說(shuō)我們將特征進(jìn)行的變換，看起來(lái)好像是從3變到了4只增加了一個(gè)，但是我們的核心一方面是特征的個(gè)數(shù)，這個(gè)我們可以自己定義神經(jīng)元的個(gè)數(shù)。另一方面我們關(guān)注的點(diǎn)在于，什么樣的權(quán)重參數(shù)矩陣W1才能給我得到更好的特征，那么神經(jīng)網(wǎng)絡(luò)大家都說(shuō)它是一個(gè)黑盒子，原因就在于權(quán)重參數(shù)矩陣W1內(nèi)部是很難解釋的，其實(shí)我們也不需要認(rèn)識(shí)它，只要計(jì)算機(jī)能懂就OK了。那么這一步是怎么做的呢？計(jì)算機(jī)怎么得到最好的權(quán)重參數(shù)W1幫我們完成了特征的提取呢？這一點(diǎn)就要靠反向傳播與梯度下降了，簡(jiǎn)單來(lái)說(shuō)就是我們告訴神經(jīng)網(wǎng)絡(luò)我的目標(biāo)就是分辨出什么是貓什么是狗，然后神經(jīng)網(wǎng)絡(luò)就會(huì)通過(guò)大量的迭代去尋找最合適的一組權(quán)重參數(shù)矩陣。（如果不清楚什么事梯度下降，先來(lái)看看我之前的文章吧?。?

在神經(jīng)網(wǎng)絡(luò)中，我們剛才解釋了什么是神經(jīng)元，說(shuō)白了就是一組權(quán)重參數(shù)。那整個(gè)網(wǎng)絡(luò)不止這么一層呀，還有很多層次結(jié)構(gòu)，這就是說(shuō)我們的網(wǎng)絡(luò)要想充分利用其價(jià)值就需要通過(guò)多種變換才能得到最終最合適的特征，一旦我們得到了最合適的特征，后續(xù)我們利用特征來(lái)進(jìn)行分類(lèi)或者回歸任務(wù)就都隨你啦。這就是神經(jīng)網(wǎng)絡(luò)的本質(zhì)，其實(shí)我本質(zhì)上認(rèn)為神經(jīng)網(wǎng)絡(luò)就是一種特征提取器，通過(guò)這種設(shè)計(jì)可以讓我們得到更有價(jià)值的信息！