大數(shù)據(jù)、人工智能、哲學(xué)

您從什么時(shí)候開始關(guān)注人工智能哲學(xué)的？

徐英瑾：差不多從2004年左右開始吧，我在翻譯王浩文集的同時(shí)，讀到瑪格麗特·博登的《人工智能哲學(xué)》這部論文集。當(dāng)時(shí)人工智能遠(yuǎn)遠(yuǎn)沒有現(xiàn)在這么熱門，但是我覺得，這是未來哲學(xué)應(yīng)該處理的問題。博登的書只是一部入門之作，從此書開始，我找了大量相關(guān)資料閱讀。

關(guān)于人工智能哲學(xué)研究，我主要是和美國天普大學(xué)的計(jì)算機(jī)專家王培老師合作，他研究人工智能的體系，認(rèn)為它就是為了在小數(shù)據(jù)的情況下進(jìn)行應(yīng)急推理。那個(gè)時(shí)候我還不知道有大數(shù)據(jù)，當(dāng)然，大數(shù)據(jù)的前身，如貝葉斯、神經(jīng)網(wǎng)絡(luò)等都有了——今天的深度學(xué)習(xí)是當(dāng)時(shí)的神經(jīng)網(wǎng)絡(luò)的高度加強(qiáng)版，根上的東西從 Geoffrey Hinton 那時(shí)就有了。后來大數(shù)據(jù)越來越熱，我才關(guān)注到相關(guān)討論。不過，這種關(guān)注對(duì)我的研究實(shí)際上是一種干擾，因?yàn)槲抑浪清e(cuò)的。

說到大數(shù)據(jù)，您在這方面發(fā)表了不少文章，比如有一篇就叫“大數(shù)據(jù)等于大智慧嗎？”最近也頻頻談?wù)摯髷?shù)據(jù)問題。您在這方面的觀點(diǎn)是什么？

徐英瑾：如果用一句話來概括的話，就是，我談?wù)摯髷?shù)據(jù)的目的在于反對(duì)大數(shù)據(jù)?，F(xiàn)在有一種很不好的風(fēng)氣，就是“IP”橫行，“大數(shù)據(jù)”也被當(dāng)作了IP，更糟糕的是，連我對(duì)大數(shù)據(jù)的批評(píng)也成了這個(gè)IP的一部分。事實(shí)上，我的批評(píng)背后，有我的理論關(guān)懷，就是日本哲學(xué)家九鬼周造的學(xué)說。九鬼周造寫過一本書，叫《偶然性的問題》，說整個(gè)西洋哲學(xué)都喜歡從必然性的角度來解決問題，必然性解決不了就用概率論，但偶然性是永遠(yuǎn)不能被馴服的。大數(shù)據(jù)是試圖馴服偶然性的一種嘗試，但它終將無法馴服。

中國歷史上，這樣的例子很多，尤其是軍事史。你看那些大的戰(zhàn)役的指揮者，彭城之戰(zhàn)的項(xiàng)羽也好，赤壁之戰(zhàn)的周瑜、魯肅也罷，他們最終作出決策，靠的是什么呢，難道是大數(shù)據(jù)嗎？其實(shí)是核心情報(bào)的評(píng)估和基于常識(shí)的推理，以及一點(diǎn)點(diǎn)碰運(yùn)氣式的瞎蒙。因?yàn)閼?zhàn)爭是充滿無知之幕的。那些以小勝多的戰(zhàn)役，如果光看大數(shù)據(jù)，那么一切都會(huì)指向多的那一方要獲勝，少的那一方無疑是找死，可是事實(shí)是什么呢？

所以，我所設(shè)想的新一代人工智能，是能夠“認(rèn)命”的機(jī)器人。說“認(rèn)命”，不是說服從偶然性，而是利用偶然性；不是說無所作為，而是順勢(shì)而為。

您的這種觀點(diǎn)，說不定會(huì)遭到工程技術(shù)人員抱怨：哲學(xué)流派、觀點(diǎn)那么多，我們?cè)趺锤愕们宄?

徐英瑾：工程技術(shù)人員的抱怨，有一點(diǎn)我是同情的：兩千年來，哲學(xué)問題的確沒什么實(shí)質(zhì)性的進(jìn)展。那么，面對(duì)這種情況，我們要采取什么策略呢？印度有部電影叫 OMG：Oh My God！，男主角是個(gè)外星人，他跑到地球上之后，不知道哪個(gè)神管用，就每個(gè)神都拜一拜。

哲學(xué)流派、觀點(diǎn)很多，保不齊哪一個(gè)管用，每一個(gè)都要有人去嘗試。不能所有的人都搞大數(shù)據(jù)，都搞神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)，這很危險(xiǎn)?，F(xiàn)在資本都往這幾個(gè)領(lǐng)域里面涌，這是缺乏哲學(xué)思維的，某種意義上也是缺乏風(fēng)險(xiǎn)管理思維。一件這么不靠譜的事情，你怎么能只試一個(gè)方向、一種流派？

而且，更糟糕的是，這方面的研究人員常常滿腦子技術(shù)烏托邦，拿生活經(jīng)驗(yàn)去細(xì)想一下，其實(shí)是很荒謬的。舉個(gè)例子來說，現(xiàn)在 “奇點(diǎn)”被炒得火熱，大意是說，奇點(diǎn)革命一旦到來，人類社會(huì)將被顛覆。

事實(shí)上怎么樣呢？我這一代人經(jīng)歷了改革開放初期的物質(zhì)貧乏，一直到今天的物質(zhì)極大豐富，我們七八歲時(shí)關(guān)于二十一世紀(jì)的烏托邦式想象，今天實(shí)現(xiàn)了幾個(gè)？深層次的社會(huì)結(jié)構(gòu)并沒有怎么改變，比如醫(yī)療領(lǐng)域，各種新技術(shù)的出現(xiàn)其實(shí)強(qiáng)化了現(xiàn)有的社會(huì)結(jié)構(gòu)，加劇了貧富階層之間的差距，又談何顛覆呢？大家把人工智能吹噓得好像很厲害，其實(shí)它一點(diǎn)都不厲害，還有一堆問題沒有解決，你去擔(dān)心它毀滅人類干什么？這就和堂吉訶德一樣，把風(fēng)車當(dāng)作怪物，自己嚇唬自己。

在您看來，目前這種以大數(shù)據(jù)為基礎(chǔ)的人工智能，繼續(xù)發(fā)展下去，可能會(huì)取得什么樣的結(jié)果？

徐英瑾：我認(rèn)為，再繼續(xù)這樣熱炒下去，就是技術(shù)泡沫，最后什么也做不出來。關(guān)于人工智能的發(fā)展，業(yè)內(nèi)有點(diǎn)歷史意識(shí)的人，腦子里往往有一張圖表，下方是時(shí)間，上方是發(fā)展水平，目前的人工智能在這張表上的確在上升，但不久就會(huì)遇上瓶頸。就像我前面說的，它在哲學(xué)上是行不通的，很多理論問題還沒有得到解決。我個(gè)人還是更傾向于小數(shù)據(jù)。

您關(guān)于小數(shù)據(jù)的觀點(diǎn)，在學(xué)界有代表性嗎？您能就某個(gè)方面的實(shí)例來詳細(xì)談?wù)?，有哪些人工智能的理論問題還沒有得到解決嗎？

徐英瑾：在人工智能學(xué)界，小數(shù)據(jù)不算主流，但在其他領(lǐng)域就不一樣了，心理學(xué)界對(duì)小數(shù)據(jù)的思考就很深入，德國 Gerd Gigerenzer 做了大量的工作，人工智能學(xué)界還沒有關(guān)注到。這是很可惜的事情。

說到有待解決的理論問題，我可以拿腦研究來作為例子。現(xiàn)在有一種傾向，是試圖從大腦出發(fā)來制造人工智能。這方面的風(fēng)險(xiǎn)實(shí)在太大，很多人不明白大腦究竟有多復(fù)雜。

大腦有10^11個(gè)神經(jīng)元，彼此之間存在著極為復(fù)雜的聯(lián)系，其中存在的可能性是個(gè)天文數(shù)字。在很大程度上，我們進(jìn)行情感判斷和復(fù)雜推理的腦區(qū)可能是不一樣的，對(duì)此學(xué)術(shù)上依然沒有弄清楚?，F(xiàn)在出了很多這方面的論文，但是并沒有給出統(tǒng)一意見，這是因?yàn)椋竽X和大腦之間還存在著個(gè)體差異和民族、文化差異，被試者要經(jīng)過一定的統(tǒng)計(jì)學(xué)處理之后才能去除這類差異。

這種操作是很復(fù)雜的，而且成本很高，現(xiàn)在進(jìn)行腦研究主要靠核磁共振成像，這是很昂貴的手段，不足以支持大樣本研究。這就導(dǎo)致，現(xiàn)在的研究成果不是科學(xué)上要求必須這么做，而是經(jīng)費(fèi)上只能允許這么做。但是最終得出的結(jié)論卻嚴(yán)重地僭越了自身的地位，夸大了自身的代表性。

神經(jīng)生物學(xué)告訴我們，人的神經(jīng)元是具有文化可塑性的，上層的文化影響會(huì)在底層的神經(jīng)分布當(dāng)中得到體現(xiàn)，所以，對(duì)腦神經(jīng)做科學(xué)研究，是無法剔除文化因素的影響的。人一旦早年處在某個(gè)文化共同體當(dāng)中，神經(jīng)受到了塑造，今后再想改變就比較難了。這在語言學(xué)習(xí)當(dāng)中得到了非常鮮明的體現(xiàn)。日本人說英語比較慢，因?yàn)槿照Z是動(dòng)詞后置的，而英語不是，所以他們說英語要做詞序變換，導(dǎo)致語速變慢。這就是他們特有的語言編碼方式。

因此，你現(xiàn)在如果真的要?jiǎng)?chuàng)造一個(gè)大腦，那么它不能是生物的，而必須是硅基的。即使它的構(gòu)成是類神經(jīng)元的，也依然是硅基的，否則就是在克隆人了。如果你要對(duì)大腦進(jìn)行抽象，你只能抽象出它的數(shù)學(xué)成分。這里面有個(gè)問題：純數(shù)學(xué)不能構(gòu)成對(duì)世界的描述。純數(shù)學(xué)每個(gè)單位后面要加量綱，量綱要選擇哪些東西，取決于你看待這個(gè)世界的視角和方向。這就是哲學(xué)和理論層面的問題。大腦其實(shí)是一層一層的，最底層是生物、化學(xué)的東西，再往上就是意識(shí)、感覺的東西。

那么，任何一個(gè)生物組織，對(duì)它的數(shù)學(xué)模擬，到底是事后諸葛亮式、近似式的追問，還是能夠把握它的本質(zhì)？這是一個(gè)很可怕的理論黑洞，不僅是一個(gè)工程學(xué)黑洞，首先是一個(gè)哲學(xué)黑洞。這么大一個(gè)黑洞，你認(rèn)為十年二十年能夠把它搞清楚，你說風(fēng)險(xiǎn)大不大？比較穩(wěn)妥的，還是去尋找一條可靠的路徑。

您覺得人工智能的可靠路徑是什么？

徐英瑾：首先應(yīng)該放在自然語言處理上。但是，現(xiàn)在就連這方面的研究，也依然是在做大數(shù)據(jù)，比如翻譯軟件，它的處理方式就是看現(xiàn)有的譯文是怎么翻的，然后它就怎么翻。這是完全不對(duì)的。正確的處理方式，是定下一個(gè)高目標(biāo)：將日語寫的俳句翻譯成中文或英文，而且必須是當(dāng)代作家即興創(chuàng)作的俳句，而不能是松尾芭蕉這類知名詩人的、可以檢索的俳句。翻譯好之后，把美國最好的俳句專家找來做圖靈測試。

這個(gè)標(biāo)準(zhǔn)雖然很高，但并非不可企及，而且這是正確的方向。只是，如果我們把精力和資源都放在大數(shù)據(jù)上面，我們就永遠(yuǎn)也達(dá)不到這個(gè)目標(biāo)。因?yàn)榇髷?shù)據(jù)都是從已有的經(jīng)驗(yàn)出發(fā)，全新的領(lǐng)域它是應(yīng)付不來的。美國的日本文學(xué)專家怎么譯俳句？當(dāng)然是先揣摩文本，進(jìn)入語境，讓自己被日式審美所感動(dòng)，然后思考，美國文化當(dāng)中類似的語境是什么。這里面就牽涉到對(duì)審美情趣的整體把握。什么是審美情趣？它是和物理世界分割開來的，還是隨附在物理世界上的？這里面，又是一堆問題。這些問題不弄明白，僅僅是靠大數(shù)據(jù)，是不可能成功的。

您前面談了這么多，我看總結(jié)起來就是一句話：當(dāng)下人工智能的發(fā)展，問題比辦法多得多得多。

徐英瑾：這是沒辦法的，打個(gè)比方，現(xiàn)在的人工智能的目標(biāo)，是想要造出一個(gè) Big Hero 6 中的“大白”那樣的機(jī)器人，既然當(dāng)下人工智能發(fā)展給自己定下了這么一個(gè)科幻式的目標(biāo)，那么，我前面所談到的問題都是必須考慮到的。實(shí)際上 Chappie 這樣的電影對(duì)人工智能的表現(xiàn)，我覺得是比較合理的，我也很贊同。

它很清楚地告訴你，機(jī)器人也有一個(gè)學(xué)習(xí)的過程，很大程度上跟培養(yǎng)小孩是一樣的。我構(gòu)想的未來的人工智能，買回來放到家里你是要教的，而不是一開始就什么都會(huì)。前面說到OMG這部電影，里面那個(gè)外星人的思維方式就像人工智能，他的推理是嚴(yán)謹(jǐn)、科學(xué)的，但因?yàn)榈厍蛏系亩嗌裣到y(tǒng)很混亂，他經(jīng)常因?yàn)橥评硎д`觸犯某些宗教的禁忌而挨揍，挨完揍之后，他就迅速得出了更接近真相的結(jié)論。

這樣一個(gè)建立假設(shè)、驗(yàn)證、挨揍，之后再建立新假設(shè)的過程，實(shí)際上是科學(xué)家的做法，以自己被揍為代價(jià)，增進(jìn)了對(duì)地球的認(rèn)識(shí)。但是，重要的地方在于，他的思維方式僅僅是基于小數(shù)據(jù)：被揍一次之后立刻修改自己的解釋；如果是大數(shù)據(jù)，他會(huì)想，被揍一次還不行，應(yīng)該多被揍幾次才能得出正確結(jié)論。生物體要是按照大數(shù)據(jù)的思維方式來的話，早就在地球上滅絕了。

在您看來，未來的人工智能，或者說真正的人工智能應(yīng)該是什么樣的？

徐英瑾：現(xiàn)在很多人工智能研究最大的問題，是不受視角的制約，但是，真正的人工智能是受視角和立場制約的。對(duì)機(jī)器來說，就是受制于預(yù)裝的系統(tǒng)和它后來不斷學(xué)習(xí)的經(jīng)驗(yàn)，而預(yù)裝的系統(tǒng)，就相當(dāng)于人類的文化背景。我所構(gòu)想的人工智能，是需要學(xué)習(xí)和培養(yǎng)的。AlphaGo當(dāng)然也要學(xué)習(xí)，一個(gè)晚上下一百萬盤棋，但那是極為消耗能量的學(xué)習(xí)。人工智能應(yīng)該是舉一反三式的學(xué)習(xí)。AlphaGo雖然強(qiáng)大，但是只能干下棋這樣一件事情，無法干別的。

當(dāng)然，我并不是說，AlphaGo的深度學(xué)習(xí)技術(shù)不能用來做下棋之外的事，這個(gè)技術(shù)本身可以用來做很多事情。我的意思是說，這個(gè)技術(shù)一旦做成某一具體的產(chǎn)品，這個(gè)產(chǎn)品的功能就固定下來了。用樂高積木來打個(gè)比方，如果你是精于此道的高手，你可以拼出一艘航母、一幢高樓，但是一旦拼出了一艘航母，除非你把它拆掉，它就一直是航母了，不再會(huì)是高樓。

類似地，一旦你用深度學(xué)習(xí)技術(shù)做出了AlphaGo這個(gè)專門用來下棋的機(jī)器人，如果再想讓它去干別的，很多基本訓(xùn)練和基礎(chǔ)架構(gòu)就必須從頭做起，這就相當(dāng)于把拼成航母的樂高積木一塊一塊地拆下來，再拼成一艘航母，而想而知工作量會(huì)有多大。那么，問題來了：你是需要一個(gè)什么都能干，雖然不一定能干到最好的機(jī)器人呢，還是需要一個(gè)只能把一件事情做到最好，其他什么都不會(huì)的機(jī)器人？這兩種機(jī)器人，哪種對(duì)人類社會(huì)起到的作用更大？

不妨拿戰(zhàn)爭舉個(gè)例子。未來的戰(zhàn)場會(huì)需要大量的戰(zhàn)斗型機(jī)器人。一個(gè)士兵在戰(zhàn)場上遇到的情況是千變?nèi)f化的。請(qǐng)問，難道只有醫(yī)療兵知道怎么救援嗎？別的士兵也知道，只是未必做得有那么好而已。同樣，醫(yī)療兵也會(huì)使用槍械。

再拿家政服務(wù)舉個(gè)例子，給中產(chǎn)家庭用的機(jī)器人，和給富豪家庭用的機(jī)器人，肯定是不一樣的。AlphaGo這樣的機(jī)器人怎么去迅速適應(yīng)呢？關(guān)于圍棋的輸贏是有明確規(guī)則的，可是家政問題有規(guī)則嗎？如果機(jī)器人給一個(gè)大知識(shí)分子收拾書房，打掃得太干凈，他反而不滿意，可能要拍桌子：“亂有亂的味道！書房怎么可以弄得這么干凈呢？”但是你不給他打掃，他又不開心了，“書總歸要碼得整齊一點(diǎn)，蜘蛛網(wǎng)總歸要掃掉吧”。

所以，行為的分寸如何把握，是需要人工智能來學(xué)習(xí)和判斷的。而人工智能如何學(xué)習(xí)和判斷呢？這是需要人類去調(diào)教的。