作者 | 王健宗 瞿曉陽(yáng)

來(lái)源 | 大數(shù)據(jù)DT

01 人工智能發(fā)展歷程

圖1是人工智能發(fā)展情況概覽。人工智能的發(fā)展經(jīng)歷了很長(zhǎng)時(shí)間的歷史積淀，早在1950年，阿蘭·圖靈就提出了圖靈測(cè)試機(jī)，大意是將人和機(jī)器放在一個(gè)小黑屋里與屋外的人對(duì)話，如果屋外的人分不清對(duì)話者是人類還是機(jī)器，那么這臺(tái)機(jī)器就擁有像人一樣的智能。

▲圖1 人工智能起源及發(fā)展

隨后，在1956年的達(dá)特茅斯會(huì)議上，“人工智能”的概念被首次提出。在之后的十余年內(nèi)，人工智能迎來(lái)了發(fā)展史上的第一個(gè)小高峰，研究者們瘋狂涌入，取得了一批矚目的成就，比如1959年，第一臺(tái)工業(yè)機(jī)器人誕生；1964年，首臺(tái)聊天機(jī)器人也誕生了。

但是，由于當(dāng)時(shí)計(jì)算能力的嚴(yán)重不足，在20世紀(jì)70年代，人工智能迎來(lái)了第一個(gè)寒冬。早期的人工智能大多是通過(guò)固定指令來(lái)執(zhí)行特定的問(wèn)題，并不具備真正的學(xué)習(xí)和思考能力，問(wèn)題一旦變復(fù)雜，人工智能程序就不堪重負(fù)，變得不智能了。

雖然有人趁機(jī)否定人工智能的發(fā)展和價(jià)值，但是研究學(xué)者們并沒(méi)有因此停下前進(jìn)的腳步，終于在1980年，卡內(nèi)基梅隆大學(xué)設(shè)計(jì)出了第一套專家系統(tǒng)——XCON。該專家系統(tǒng)具有一套強(qiáng)大的知識(shí)庫(kù)和推理能力，可以模擬人類專家來(lái)解決特定領(lǐng)域問(wèn)題。

從這時(shí)起，機(jī)器學(xué)習(xí)開始興起，各種專家系統(tǒng)開始被人們廣泛應(yīng)用。不幸的是，隨著專家系統(tǒng)的應(yīng)用領(lǐng)域越來(lái)越廣，問(wèn)題也逐漸暴露出來(lái)。專家系統(tǒng)應(yīng)用有限，且經(jīng)常在常識(shí)性問(wèn)題上出錯(cuò)，因此人工智能迎來(lái)了第二個(gè)寒冬。

1997年，IBM公司的“深藍(lán)”計(jì)算機(jī)戰(zhàn)勝了國(guó)際象棋世界冠軍卡斯帕羅夫，成為人工智能史上的一個(gè)重要里程碑。之后，人工智能開始了平穩(wěn)向上的發(fā)展。

2006年，李飛飛教授意識(shí)到了專家學(xué)者在研究算法的過(guò)程中忽視了“數(shù)據(jù)”的重要性，于是開始帶頭構(gòu)建大型圖像數(shù)據(jù)集—ImageNet，圖像識(shí)別大賽由此拉開帷幕。

同年，由于人工神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展，“深度學(xué)習(xí)”的概念被提出，之后，深度神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)開始不斷映入人們的眼簾。深度學(xué)習(xí)的發(fā)展又一次掀起人工智能的研究狂潮，這一次狂潮至今仍在持續(xù)。

圖2列出了人工智能發(fā)展史上的一些重要事件。從誕生以來(lái)，機(jī)器學(xué)習(xí)經(jīng)歷了長(zhǎng)足發(fā)展，現(xiàn)在已經(jīng)被應(yīng)用于極為廣泛的領(lǐng)域，包括數(shù)據(jù)挖掘、計(jì)算機(jī)視覺、自然語(yǔ)言處理、生物特征識(shí)別、搜索引擎、醫(yī)學(xué)診斷、檢測(cè)信用卡欺詐、證券市場(chǎng)分析、DNA序列測(cè)序、語(yǔ)音和手寫識(shí)別、戰(zhàn)略游戲、藝術(shù)創(chuàng)作和機(jī)器人等，以及我們特別關(guān)注的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)未來(lái)發(fā)展的一大趨勢(shì)——自動(dòng)化機(jī)器學(xué)習(xí)和深度學(xué)習(xí)（AutoML及AutoDL）。

▲圖2 人工智能發(fā)展重大事件

02 下一代人工智能

我們首先通過(guò)圖3來(lái)回顧一下人工智能的發(fā)展歷程。

▲圖3 人工智能發(fā)展歷程

到目前為止，人工智能按照總體向上的發(fā)展歷程，可以大致分為4個(gè)發(fā)展階段，分別為精耕細(xì)作的誕生期、急功近利的產(chǎn)業(yè)期、集腋成裘的爆發(fā)期，以及現(xiàn)在逐漸用AutoML來(lái)自動(dòng)產(chǎn)生神經(jīng)網(wǎng)絡(luò)的未來(lái)發(fā)展期。

早期由于受到計(jì)算機(jī)算力的限制，機(jī)器學(xué)習(xí)處于慢速發(fā)展階段，人們更注重于將邏輯推理能力和人類總結(jié)的知識(shí)賦予計(jì)算機(jī)。但隨著計(jì)算機(jī)硬件的發(fā)展，尤其是GPU在機(jī)器學(xué)習(xí)中的應(yīng)用，計(jì)算機(jī)可以從海量的數(shù)據(jù)中學(xué)習(xí)各種數(shù)據(jù)特征，從而很好地完成人類分配給它的各種基本任務(wù)。

此時(shí)，深度學(xué)習(xí)開始在語(yǔ)音、圖像等領(lǐng)域大獲成功，各種深度學(xué)習(xí)網(wǎng)絡(luò)層出不窮，完成相關(guān)任務(wù)的準(zhǔn)確率也不斷提升。同時(shí)，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)朝著深度更深、結(jié)構(gòu)更加巧妙復(fù)雜的方向推進(jìn)，GPU的研發(fā)與應(yīng)用也隨著神經(jīng)網(wǎng)絡(luò)對(duì)算力要求的不斷提高而持續(xù)快速向前推進(jìn)。圖4展示了近年來(lái)主要神經(jīng)網(wǎng)絡(luò)的發(fā)展。

▲圖4 主要深度神經(jīng)網(wǎng)絡(luò)的發(fā)展

2012年，AlexNet為了充分利用多個(gè)GPU的算力，創(chuàng)新性地將深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)成兩部分，使網(wǎng)絡(luò)可以在兩個(gè)GPU上進(jìn)行訓(xùn)練。

2013年，ZFNet又進(jìn)一步解決了Feature Map可視化的問(wèn)題，將深度神經(jīng)網(wǎng)絡(luò)的理解推進(jìn)了一大步。2014年，VGGNet通過(guò)進(jìn)一步增加網(wǎng)絡(luò)的深度而獲得了更高的準(zhǔn)確率；同年，GoogLeNet的發(fā)明引入了重復(fù)模塊Inception Model，使得準(zhǔn)確率進(jìn)一步提升。

而2015年ResNet將重復(fù)模塊的思想更深層次地發(fā)展，從而獲得了超越人類水平的分辨能力。這時(shí)，由于深度神經(jīng)網(wǎng)絡(luò)層數(shù)的不斷加深，需要訓(xùn)練的參數(shù)過(guò)于龐大，為了在不犧牲精度的同時(shí)減少需要訓(xùn)練的參數(shù)個(gè)數(shù)，2017年DenceNet應(yīng)運(yùn)而生。

隨著深度神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展，各種模型和新穎模塊的不斷發(fā)明利用，人們逐漸意識(shí)到開發(fā)一種新的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)越來(lái)越費(fèi)時(shí)費(fèi)力，為什么不讓機(jī)器自己在不斷的學(xué)習(xí)過(guò)程中創(chuàng)造出新的神經(jīng)網(wǎng)絡(luò)呢？

出于這個(gè)構(gòu)思，2017年Google推出了AutoML——一個(gè)能自主設(shè)計(jì)深度神經(jīng)網(wǎng)絡(luò)的AI網(wǎng)絡(luò)，緊接著在2018年1月發(fā)布第一個(gè)產(chǎn)品，并將它作為云服務(wù)開放出來(lái)，稱為Cloud AutoML。

自此，人工智能又有了更進(jìn)一步的發(fā)展，人們開始探索如何利用已有的機(jī)器學(xué)習(xí)知識(shí)和神經(jīng)網(wǎng)絡(luò)框架來(lái)讓人工智能自主搭建適合業(yè)務(wù)場(chǎng)景的網(wǎng)絡(luò)，人工智能的另一扇大門被打開。