古往今來，人類一直在探求科技的極限。隨著信息技術(shù)在21世紀(jì)的爆發(fā)，數(shù)據(jù)科學(xué)與人工智能技術(shù)迎來自己的春天，尤其是以深度學(xué)習(xí)為基礎(chǔ)的人工智能技術(shù)可謂是大放異彩，在諸多領(lǐng)域遠(yuǎn)勝人類，并且如人臉識(shí)別這樣的技術(shù)也紛紛落地，甚至悲觀者認(rèn)為，機(jī)器智能時(shí)代來臨，倘若某天機(jī)器有了自主思維，人類將會(huì)面臨滅頂之災(zāi)?？墒?，深度學(xué)習(xí)就如此無所不能嗎？答案是否定的！深度學(xué)習(xí)是利用深層神經(jīng)網(wǎng)絡(luò)的技術(shù)，雖然在圖像識(shí)別等方面已經(jīng)能夠超越人類，但是它仍然有許多方面是不能完成的，本文列舉深度學(xué)習(xí)目前不能實(shí)現(xiàn)的一些領(lǐng)域，希望能夠幫大家打開思維，更好地認(rèn)識(shí)深度學(xué)習(xí)。

深度學(xué)習(xí)的“能”

既是學(xué)霸，又是游戲王

一般來說，多數(shù)人每年可以看300篇文獻(xiàn)，而IBM的Watson系統(tǒng)在10分鐘里就可以閱讀2000萬的文獻(xiàn)，顯而易見，深度學(xué)習(xí)的學(xué)習(xí)能力是遠(yuǎn)遠(yuǎn)大于人類的，是個(gè)十足的“學(xué)霸”。與此同時(shí)，在游戲領(lǐng)域，不管是圍棋還是dota2，深度學(xué)習(xí)有足夠的能力碾壓人類。所以深度學(xué)習(xí)既是學(xué)霸，又是游戲王。

多才多藝

下棋，寫詩，作曲，藝術(shù)畫······2016年，阿爾法狗大勝李世石，2017年微軟小冰出版第一部詩集，隨后又開始轉(zhuǎn)向音樂創(chuàng)作·····深度學(xué)習(xí)已經(jīng)慢慢變成琴棋書畫樣樣精通，多才多藝全能王。

從深度學(xué)習(xí)所取得的成果來看，它似乎已經(jīng)無所不能，在諸多方面超過了人類。

深度學(xué)習(xí)的“不能”

算法輸出不穩(wěn)定，容易被攻擊

在圖像識(shí)別領(lǐng)域，我們可能在一張圖像中只改變一個(gè)像素點(diǎn)的值，那么輸出結(jié)果會(huì)發(fā)生巨大改變，這就是算法輸出不穩(wěn)定導(dǎo)致的，這種細(xì)微的改變?cè)谌祟惪磥砦⒉蛔愕?，?duì)于算法模型來說確不同。不僅在圖像領(lǐng)域，自然語言處理領(lǐng)域也有這樣的問題。在問答系統(tǒng)中，在原始文本中隨機(jī)得加入一些簡單的詞，模型的理解能力大大降低。這種問題不僅出現(xiàn)在深度學(xué)習(xí)，傳統(tǒng)機(jī)器學(xué)習(xí)更容易被攻擊。

模型復(fù)雜度高，難以糾錯(cuò)或調(diào)試

在2016年阿法狗與李世石的大戰(zhàn)中，李世石贏了一局。在李世石的78手后，阿法狗的勝率便直線下降。如果可以投降的話，那么在李世石的第78手后，阿法狗應(yīng)該會(huì)選擇投降，而并不會(huì)針對(duì)這一手進(jìn)行相應(yīng)的改進(jìn)。此外，在深度學(xué)習(xí)進(jìn)行翻譯時(shí)，不管是給模型什么數(shù)據(jù)輸入，都會(huì)有一個(gè)有意義的輸出。此前的谷歌翻譯曾遇到過這樣的問題，在翻譯結(jié)果有明顯錯(cuò)誤的時(shí)候，翻譯部門的工程師也很難去對(duì)模型修改，可見深度學(xué)習(xí)模型的復(fù)雜。

層級(jí)復(fù)合程度高，參數(shù)不透明

在圖像識(shí)別領(lǐng)域，我們?cè)谀Ｐ偷闹虚g層中盡力去抓取圖像的特征。在第一層的卷積層計(jì)算后，我們對(duì)結(jié)果進(jìn)行可視化，可以很容易看出結(jié)果與原圖像有很大相似性。然后，隨著層數(shù)的加深，對(duì)中間其他層的可視化，我們完全不能看出中間層所代表的意義。主要原因在于感受野的復(fù)合，而且每層的卷積核也會(huì)產(chǎn)生復(fù)合，加上一些模型會(huì)有自己特有的復(fù)合，如inception模塊的復(fù)合，殘差的復(fù)合，讓我們難以從中間層的可視化中看到模型具體運(yùn)行的結(jié)果。

對(duì)數(shù)據(jù)依賴性強(qiáng)，模型增量性差

深度學(xué)習(xí)是端到端結(jié)構(gòu)，靈活性非常低。我們將單個(gè)圖像拼接在一起，人類很容易識(shí)別的內(nèi)容，深度學(xué)習(xí)確無能為力，可見其遷移能力較差。在“語義標(biāo)注”和“關(guān)系檢測(cè)”這類問題中，人類可以通過完成一個(gè)任務(wù)中的多個(gè)子任務(wù)，并將子任務(wù)整合的方式解決問題，而對(duì)于深度學(xué)習(xí)來說，多個(gè)子任務(wù)與一個(gè)總?cè)蝿?wù)是完全不同的兩個(gè)任務(wù)，需要不同的模型去解決問題。在數(shù)據(jù)量較小的情況下，模型擬合能力較差。

專注直觀感知類問題，對(duì)開放性問題無能為力

我們小時(shí)候都曾學(xué)習(xí)過關(guān)于烏鴉喝水的故事。烏鴉在面對(duì)半瓶水，而自己的嘴夠不著水時(shí)，會(huì)往瓶子里丟入石子，使得水面上升從而喝到水。此外，烏鴉在無法撥開堅(jiān)果時(shí)，它會(huì)把堅(jiān)果丟在馬路上，讓來往的車輛碾壓從而遲到果實(shí)，在此過程中，烏鴉能夠通過觀察人行道的情況學(xué)會(huì)判斷車輛是否會(huì)行駛以保障自己的安全。而鸚鵡也有自己的智能，在聽過人類重復(fù)說過的話后，鸚鵡能夠很好地模仿人類說話。深度學(xué)習(xí)只能做到鸚鵡的智能，而做不到烏鴉的智能，可見其泛化能力之低。此外，深度學(xué)習(xí)也難以理解圖像背后的寓意。當(dāng)一幅圖中出現(xiàn)奧巴馬與一群大象時(shí)，深度學(xué)習(xí)僅僅能辨認(rèn)圖中是一個(gè)男人與一群大象，顯然圖作者卻是想透過圖片暗喻美國的兩黨之爭，一般來說，大象喻指美國民主黨。

機(jī)器偏見難以避免，人類知識(shí)難以有效監(jiān)督

這可能是目前深度學(xué)習(xí)面臨的最大問題。數(shù)據(jù)是深度學(xué)習(xí)的基礎(chǔ)，而數(shù)據(jù)的可靠程度決定了模型的可靠程度。微軟層開發(fā)聊天機(jī)器人Tay，模仿年輕網(wǎng)民的語言模式。但是試用24小時(shí)后便被引入歧途，成為偏激的種族主義者，甚至發(fā)出了“希特勒無罪”的消息。原因在于年輕的網(wǎng)民本身的語料庫并不是純凈的，是人就會(huì)有偏見，這種偏見在網(wǎng)絡(luò)中尤其嚴(yán)重，這樣便導(dǎo)致了Tay用來訓(xùn)練的數(shù)據(jù)帶有偏見，并使得Tay誤入歧途，而人類知識(shí)的監(jiān)督很難有效采用，這就無法避免機(jī)器的偏見。另一個(gè)例子，美國法院用以評(píng)估犯罪風(fēng)險(xiǎn)的算法COMPAS，也被證明對(duì)黑人造成了系統(tǒng)性歧視。機(jī)器偏見無法消除，日后可能會(huì)給人類帶來嚴(yán)重的后果。

總結(jié)

不可否認(rèn)，深度學(xué)習(xí)可以在特定領(lǐng)域超過人類，有很好的效果，但它并非萬能。某種意義上說，它離智能還差很遠(yuǎn)。目前，對(duì)深度學(xué)習(xí)的泛化性與可解釋性的呼聲越來越高。2017年7月，國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中提出“實(shí)現(xiàn)具備高可解釋性，強(qiáng)泛化能力的人工智能”。或許下一代人工智能技術(shù)還是在深度學(xué)習(xí)基礎(chǔ)之上展開，但是希望新的技術(shù)能夠很好地解決現(xiàn)在深度學(xué)習(xí)的不能，更好地造福人類！