研究人員將統(tǒng)計(jì)和符號人工智能技術(shù)結(jié)合起來，以加快學(xué)習(xí)速度和提高透明度。

Researchers combine statistical and symbolic artificial intelligence techniques to speed learning and improve transparency.

Kim Martineau | 麻省理工學(xué)院 探索智能

本文由CDA數(shù)據(jù)分析研究院編譯出品，轉(zhuǎn)載需授權(quán)

研究人員訓(xùn)練了一個混合人工智能模型來回答這樣的問題：“綠色立方體左邊的紅色物體與紫色啞光物體形狀相同嗎？”“通過給它提供包含顏色和形狀的樣本，然后是涉及多對象比較的更復(fù)雜的場景。該模型可以將這些知識轉(zhuǎn)移到新的場景中，也比使用部分訓(xùn)練數(shù)據(jù)的進(jìn)行訓(xùn)練的最先進(jìn)的模型要好。

一個從未見過粉紅大象的孩子仍然可以描述一只粉紅色的大象---“不像電腦”。麻省理工學(xué)院(MIT)博士生吳嘉君(Jiajun Wu)說：“計(jì)算機(jī)是從數(shù)據(jù)中學(xué)習(xí)的?！薄皩C(jī)器來說，能夠概括和識別你從未見過的東西，比如粉紅色的大象-是非常困難的?！?/span>

深度學(xué)習(xí)系統(tǒng)通過挑選出數(shù)據(jù)中包含的某種統(tǒng)計(jì)信息來解釋世界。這種機(jī)器學(xué)習(xí)方式現(xiàn)在隨處可見，在Facebook上給朋友自動貼上標(biāo)簽，講述亞歷克莎最新的天氣預(yù)報，并通過谷歌搜索提供有趣的事情。但是統(tǒng)計(jì)學(xué)習(xí)有其局限性。它需要大量的數(shù)據(jù)，很難解釋為什么會是這樣的，并且很難將過去的知識應(yīng)用到新的環(huán)境中；比如它無法理解一只粉紅而不是灰色的大象。

為了讓計(jì)算機(jī)有能力像我們一樣進(jìn)行推理，人工智能(AI)的研究人員又回到了抽象的或象征性的編程模式中。20世紀(jì)50年代和60年代，符號AI將規(guī)則和邏輯連接起來，允許機(jī)器進(jìn)行比較，并解釋物體和實(shí)體之間的聯(lián)系。符號AI使用較少的數(shù)據(jù)，記錄它所采取的一系列步驟來達(dá)成一個決定，當(dāng)它與統(tǒng)計(jì)神經(jīng)網(wǎng)絡(luò)的野蠻處理能力相結(jié)合時，它甚至可以在復(fù)雜的圖像理解測試中擊敗人類。

麻省理工學(xué)院IBM沃森人工智能實(shí)驗(yàn)室和DeepMind的一組研究人員進(jìn)行的一項(xiàng)新研究表明，將統(tǒng)計(jì)人工智能和符號人工智能結(jié)合在一起是有希望的。在麻省理工學(xué)院腦和認(rèn)知科學(xué)系以及計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室的教授吳宇森和 Joshua Tenenbaum 的帶領(lǐng)下，研究表明，其混合模型可以學(xué)習(xí)與物體相關(guān)的概念，如顏色和形狀，并利用這些知識來解釋場景中復(fù)雜的物體關(guān)系。他們的模型只需要很少的訓(xùn)練數(shù)據(jù)，沒有明確的編程，就可以將模型遷移到更大的場景中，并能回答越來越棘手的問題，甚至比其最先進(jìn)的同行更好。該小組在5月舉行的國際學(xué)習(xí)代表大會上介紹了其成果。

“孩子們學(xué)習(xí)概念的一種方式是把文字和圖像聯(lián)系起來，”該研究的主要作者、清華大學(xué)的本科生、麻省理工學(xué)院的訪問學(xué)者毛家源說?！澳軌蛞酝瑯拥姆绞綄W(xué)習(xí)的機(jī)器需要的數(shù)據(jù)少得多，而且能夠更好地將其知識遷移到新的場景中?！?/span>

雅各布·安德烈亞斯（Jacob Andreas）說，這項(xiàng)研究是回歸抽象程序方法的有力論據(jù)，他是加利福尼亞大學(xué)伯克利分校（University of California at Berkeley）的一名畢業(yè)生，今年秋天開始在麻省理工學(xué)院（MIT）擔(dān)任助理教授，并未參與這項(xiàng)工作。他說：“事實(shí)證明，訣竅在于增加更多的符號結(jié)構(gòu)，并向神經(jīng)網(wǎng)絡(luò)提供一種世界的表示，這種世界被劃分為對象和屬性，而不是給它提供原始圖像。”“這項(xiàng)工作讓我們了解在語言學(xué)習(xí)成為可能之前，機(jī)器需要了解什么?！?/span>

研究小組將他們的模型訓(xùn)練在與相關(guān)問題和答案配對的圖像上，這是斯坦福大學(xué)開發(fā)的CLEVR圖像理解測試的一部分。隨著模型的學(xué)習(xí)，問題越來越難回答，“物體的顏色是什么？”“到”綠色圓柱體右側(cè)有多少個物體，與藍(lán)色小球的材質(zhì)相同嗎？“一旦掌握了對象級的概念，模型就開始學(xué)習(xí)如何將對象及其屬性相互關(guān)聯(lián)。

像其他混合人工智能模型一樣，麻省理工的工作就是將任務(wù)分解。神經(jīng)網(wǎng)絡(luò)的感知模塊對每幅圖像中的像素進(jìn)行處理，并繪制出物體的地圖。語言模塊，也由神經(jīng)網(wǎng)絡(luò)組成，從每個句子中的單詞中提取意義，并創(chuàng)建符號程序或指令，告訴機(jī)器如何回答問題。第三個推理模塊在現(xiàn)場運(yùn)行符號程序并給出答案，當(dāng)模型出錯時更新模型。

團(tuán)隊(duì)方法的關(guān)鍵是一個感知模塊，它將圖像轉(zhuǎn)換為基于對象的表示，使程序更容易執(zhí)行。同樣獨(dú)特的是他們所說的課程學(xué)習(xí)，或選擇性地訓(xùn)練模式的概念和場景，逐步增長的難度。事實(shí)證明，以合乎邏輯的方式而不是隨意地輸入數(shù)據(jù)有助于模型更快地學(xué)習(xí)，同時提高準(zhǔn)確性。

一旦模型有了堅(jiān)實(shí)的基礎(chǔ)，它就可以解釋新的場景和概念，以及越來越難的問題，這幾乎是完美的。被要求回答一個不熟悉的問題，比如，“大黃色物體的形狀是什么？”它的訓(xùn)練數(shù)據(jù)比斯坦福大學(xué)和附近的麻省理工林肯實(shí)驗(yàn)室的同行要少，但是效果上是更好的。

當(dāng)其他模型接受了70000張圖片和700000個問題的完整CLEVR數(shù)據(jù)集進(jìn)行訓(xùn)練時，MIT-IBM模型使用了5000張圖片和100000個問題。由于模型建立在先前學(xué)習(xí)的概念之上，它吸收了每個問題的基礎(chǔ)程序，所以加快了訓(xùn)練過程。

雖然在統(tǒng)計(jì)上，深度學(xué)習(xí)模型現(xiàn)在已經(jīng)嵌入日常生活中，但它們的決策過程中的大部分仍然隱藏在視野之外。由于缺乏透明度，很難預(yù)測系統(tǒng)易受操縱、錯誤或偏差的影響。添加一個符號層可以打開黑匣子，解釋混合人工智能系統(tǒng)日益增長的興趣。

林肯實(shí)驗(yàn)室研究員大衛(wèi)·馬斯卡卡（David Mascharka）說：“將任務(wù)分解，讓程序完成一些工作，是將可解釋性構(gòu)建成深度學(xué)習(xí)模型的關(guān)鍵?！彼幕旌夏Ｐ汀巴该髟O(shè)計(jì)網(wǎng)絡(luò)”（Transparency by Design Network）是麻省理工學(xué)院-IBM研究的基準(zhǔn)。

MIT-IBM團(tuán)隊(duì)現(xiàn)在正致力于改進(jìn)模型在真實(shí)照片上的性能，并將其擴(kuò)展到視頻理解和機(jī)器人操作。這項(xiàng)研究的其他作者分別是麻省理工學(xué)院-IBM沃森人工智能實(shí)驗(yàn)室和DeepMind的研究員莊根（Chuang Gan）和普希梅特·科利（Pushmeet Kohli）。

原標(biāo)題：Teaching machines to reason about what they see