大數(shù)據(jù)、人工智能、哲學(xué)

您從什么時候開始關(guān)注人工智能哲學(xué)的？

徐英瑾：差不多從2004年左右開始吧，我在翻譯王浩文集的同時，讀到瑪格麗特·博登的《人工智能哲學(xué)》這部論文集。當(dāng)時人工智能遠(yuǎn)遠(yuǎn)沒有現(xiàn)在這么熱門，但是我覺得，這是未來哲學(xué)應(yīng)該處理的問題。博登的書只是一部入門之作，從此書開始，我找了大量相關(guān)資料閱讀。

關(guān)于人工智能哲學(xué)研究，我主要是和美國天普大學(xué)的計算機(jī)專家王培老師合作，他研究人工智能的體系，認(rèn)為它就是為了在小數(shù)據(jù)的情況下進(jìn)行應(yīng)急推理。那個時候我還不知道有大數(shù)據(jù)，當(dāng)然，大數(shù)據(jù)的前身，如貝葉斯、神經(jīng)網(wǎng)絡(luò)等都有了——今天的深度學(xué)習(xí)是當(dāng)時的神經(jīng)網(wǎng)絡(luò)的高度加強(qiáng)版，根上的東西從 Geoffrey Hinton 那時就有了。后來大數(shù)據(jù)越來越熱，我才關(guān)注到相關(guān)討論。不過，這種關(guān)注對我的研究實(shí)際上是一種干擾，因?yàn)槲抑浪清e的。

說到大數(shù)據(jù)，您在這方面發(fā)表了不少文章，比如有一篇就叫“大數(shù)據(jù)等于大智慧嗎？”最近也頻頻談?wù)摯髷?shù)據(jù)問題。您在這方面的觀點(diǎn)是什么？

徐英瑾：如果用一句話來概括的話，就是，我談?wù)摯髷?shù)據(jù)的目的在于反對大數(shù)據(jù)?，F(xiàn)在有一種很不好的風(fēng)氣，就是“IP”橫行，“大數(shù)據(jù)”也被當(dāng)作了IP，更糟糕的是，連我對大數(shù)據(jù)的批評也成了這個IP的一部分。事實(shí)上，我的批評背后，有我的理論關(guān)懷，就是日本哲學(xué)家九鬼周造的學(xué)說。九鬼周造寫過一本書，叫《偶然性的問題》，說整個西洋哲學(xué)都喜歡從必然性的角度來解決問題，必然性解決不了就用概率論，但偶然性是永遠(yuǎn)不能被馴服的。大數(shù)據(jù)是試圖馴服偶然性的一種嘗試，但它終將無法馴服。

中國歷史上，這樣的例子很多，尤其是軍事史。你看那些大的戰(zhàn)役的指揮者，彭城之戰(zhàn)的項(xiàng)羽也好，赤壁之戰(zhàn)的周瑜、魯肅也罷，他們最終作出決策，靠的是什么呢，難道是大數(shù)據(jù)嗎？其實(shí)是核心情報的評估和基于常識的推理，以及一點(diǎn)點(diǎn)碰運(yùn)氣式的瞎蒙。因?yàn)閼?zhàn)爭是充滿無知之幕的。那些以小勝多的戰(zhàn)役，如果光看大數(shù)據(jù)，那么一切都會指向多的那一方要獲勝，少的那一方無疑是找死，可是事實(shí)是什么呢？

所以，我所設(shè)想的新一代人工智能，是能夠“認(rèn)命”的機(jī)器人。說“認(rèn)命”，不是說服從偶然性，而是利用偶然性；不是說無所作為，而是順勢而為。

您的這種觀點(diǎn)，說不定會遭到工程技術(shù)人員抱怨：哲學(xué)流派、觀點(diǎn)那么多，我們怎么搞得清楚

徐英瑾：工程技術(shù)人員的抱怨，有一點(diǎn)我是同情的：兩千年來，哲學(xué)問題的確沒什么實(shí)質(zhì)性的進(jìn)展。那么，面對這種情況，我們要采取什么策略呢？印度有部電影叫 OMG：Oh My God！，男主角是個外星人，他跑到地球上之后，不知道哪個神管用，就每個神都拜一拜。

哲學(xué)流派、觀點(diǎn)很多，保不齊哪一個管用，每一個都要有人去嘗試。不能所有的人都搞大數(shù)據(jù)，都搞神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)，這很危險?，F(xiàn)在資本都往這幾個領(lǐng)域里面涌，這是缺乏哲學(xué)思維的，某種意義上也是缺乏風(fēng)險管理思維。一件這么不靠譜的事情，你怎么能只試一個方向、一種流派？

而且，更糟糕的是，這方面的研究人員常常滿腦子技術(shù)烏托邦，拿生活經(jīng)驗(yàn)去細(xì)想一下，其實(shí)是很荒謬的。舉個例子來說，現(xiàn)在 “奇點(diǎn)”被炒得火熱，大意是說，奇點(diǎn)革命一旦到來，人類社會將被顛覆。

事實(shí)上怎么樣呢？我這一代人經(jīng)歷了改革開放初期的物質(zhì)貧乏，一直到今天的物質(zhì)極大豐富，我們七八歲時關(guān)于二十一世紀(jì)的烏托邦式想象，今天實(shí)現(xiàn)了幾個？深層次的社會結(jié)構(gòu)并沒有怎么改變，比如醫(yī)療領(lǐng)域，各種新技術(shù)的出現(xiàn)其實(shí)強(qiáng)化了現(xiàn)有的社會結(jié)構(gòu)，加劇了貧富階層之間的差距，又談何顛覆呢？大家把人工智能吹噓得好像很厲害，其實(shí)它一點(diǎn)都不厲害，還有一堆問題沒有解決，你去擔(dān)心它毀滅人類干什么？這就和堂吉訶德一樣，把風(fēng)車當(dāng)作怪物，自己嚇唬自己。

在您看來，目前這種以大數(shù)據(jù)為基礎(chǔ)的人工智能，繼續(xù)發(fā)展下去，可能會取得什么樣的結(jié)果？

徐英瑾：我認(rèn)為，再繼續(xù)這樣熱炒下去，就是技術(shù)泡沫，最后什么也做不出來。關(guān)于人工智能的發(fā)展，業(yè)內(nèi)有點(diǎn)歷史意識的人，腦子里往往有一張圖表，下方是時間，上方是發(fā)展水平，目前的人工智能在這張表上的確在上升，但不久就會遇上瓶頸。就像我前面說的，它在哲學(xué)上是行不通的，很多理論問題還沒有得到解決。我個人還是更傾向于小數(shù)據(jù)。

您關(guān)于小數(shù)據(jù)的觀點(diǎn)，在學(xué)界有代表性嗎？您能就某個方面的實(shí)例來詳細(xì)談?wù)?，有哪些人工智能的理論問題還沒有得到解決嗎？

徐英瑾：在人工智能學(xué)界，小數(shù)據(jù)不算主流，但在其他領(lǐng)域就不一樣了，心理學(xué)界對小數(shù)據(jù)的思考就很深入，德國 Gerd Gigerenzer 做了大量的工作，人工智能學(xué)界還沒有關(guān)注到。這是很可惜的事情。

說到有待解決的理論問題，我可以拿腦研究來作為例子?，F(xiàn)在有一種傾向，是試圖從大腦出發(fā)來制造人工智能。這方面的風(fēng)險實(shí)在太大，很多人不明白大腦究竟有多復(fù)雜。

大腦有10^11個神經(jīng)元，彼此之間存在著極為復(fù)雜的聯(lián)系，其中存在的可能性是個天文數(shù)字。在很大程度上，我們進(jìn)行情感判斷和復(fù)雜推理的腦區(qū)可能是不一樣的，對此學(xué)術(shù)上依然沒有弄清楚。現(xiàn)在出了很多這方面的論文，但是并沒有給出統(tǒng)一意見，這是因?yàn)?，大腦和大腦之間還存在著個體差異和民族、文化差異，被試者要經(jīng)過一定的統(tǒng)計學(xué)處理之后才能去除這類差異。

這種操作是很復(fù)雜的，而且成本很高，現(xiàn)在進(jìn)行腦研究主要靠核磁共振成像，這是很昂貴的手段，不足以支持大樣本研究。這就導(dǎo)致，現(xiàn)在的研究成果不是科學(xué)上要求必須這么做，而是經(jīng)費(fèi)上只能允許這么做。但是最終得出的結(jié)論卻嚴(yán)重地僭越了自身的地位，夸大了自身的代表性。

神經(jīng)生物學(xué)告訴我們，人的神經(jīng)元是具有文化可塑性的，上層的文化影響會在底層的神經(jīng)分布當(dāng)中得到體現(xiàn)，所以，對腦神經(jīng)做科學(xué)研究，是無法剔除文化因素的影響的。人一旦早年處在某個文化共同體當(dāng)中，神經(jīng)受到了塑造，今后再想改變就比較難了。這在語言學(xué)習(xí)當(dāng)中得到了非常鮮明的體現(xiàn)。日本人說英語比較慢，因?yàn)槿照Z是動詞后置的，而英語不是，所以他們說英語要做詞序變換，導(dǎo)致語速變慢。這就是他們特有的語言編碼方式。

因此，你現(xiàn)在如果真的要創(chuàng)造一個大腦，那么它不能是生物的，而必須是硅基的。即使它的構(gòu)成是類神經(jīng)元的，也依然是硅基的，否則就是在克隆人了。如果你要對大腦進(jìn)行抽象，你只能抽象出它的數(shù)學(xué)成分。這里面有個問題：純數(shù)學(xué)不能構(gòu)成對世界的描述。純數(shù)學(xué)每個單位后面要加量綱，量綱要選擇哪些東西，取決于你看待這個世界的視角和方向。這就是哲學(xué)和理論層面的問題。大腦其實(shí)是一層一層的，最底層是生物、化學(xué)的東西，再往上就是意識、感覺的東西。

那么，任何一個生物組織，對它的數(shù)學(xué)模擬，到底是事后諸葛亮式、近似式的追問，還是能夠把握它的本質(zhì)？這是一個很可怕的理論黑洞，不僅是一個工程學(xué)黑洞，首先是一個哲學(xué)黑洞。這么大一個黑洞，你認(rèn)為十年二十年能夠把它搞清楚，你說風(fēng)險大不大？比較穩(wěn)妥的，還是去尋找一條可靠的路徑。

您覺得人工智能的可靠路徑是什么？

徐英瑾：首先應(yīng)該放在自然語言處理上。但是，現(xiàn)在就連這方面的研究，也依然是在做大數(shù)據(jù)，比如翻譯軟件，它的處理方式就是看現(xiàn)有的譯文是怎么翻的，然后它就怎么翻。這是完全不對的。正確的處理方式，是定下一個高目標(biāo)：將日語寫的俳句翻譯成中文或英文，而且必須是當(dāng)代作家即興創(chuàng)作的俳句，而不能是松尾芭蕉這類知名詩人的、可以檢索的俳句。翻譯好之后，把美國最好的俳句專家找來做圖靈測試。

這個標(biāo)準(zhǔn)雖然很高，但并非不可企及，而且這是正確的方向。只是，如果我們把精力和資源都放在大數(shù)據(jù)上面，我們就永遠(yuǎn)也達(dá)不到這個目標(biāo)。因?yàn)榇髷?shù)據(jù)都是從已有的經(jīng)驗(yàn)出發(fā)，全新的領(lǐng)域它是應(yīng)付不來的。美國的日本文學(xué)專家怎么譯俳句？當(dāng)然是先揣摩文本，進(jìn)入語境，讓自己被日式審美所感動，然后思考，美國文化當(dāng)中類似的語境是什么。這里面就牽涉到對審美情趣的整體把握。什么是審美情趣？它是和物理世界分割開來的，還是隨附在物理世界上的？這里面，又是一堆問題。這些問題不弄明白，僅僅是靠大數(shù)據(jù)，是不可能成功的。

您前面談了這么多，我看總結(jié)起來就是一句話：當(dāng)下人工智能的發(fā)展，問題比辦法多得多得多。

徐英瑾：這是沒辦法的，打個比方，現(xiàn)在的人工智能的目標(biāo)，是想要造出一個 Big Hero 6 中的“大白”那樣的機(jī)器人，既然當(dāng)下人工智能發(fā)展給自己定下了這么一個科幻式的目標(biāo)，那么，我前面所談到的問題都是必須考慮到的。實(shí)際上 Chappie 這樣的電影對人工智能的表現(xiàn)，我覺得是比較合理的，我也很贊同。

它很清楚地告訴你，機(jī)器人也有一個學(xué)習(xí)的過程，很大程度上跟培養(yǎng)小孩是一樣的。我構(gòu)想的未來的人工智能，買回來放到家里你是要教的，而不是一開始就什么都會。前面說到OMG這部電影，里面那個外星人的思維方式就像人工智能，他的推理是嚴(yán)謹(jǐn)、科學(xué)的，但因?yàn)榈厍蛏系亩嗌裣到y(tǒng)很混亂，他經(jīng)常因?yàn)橥评硎д`觸犯某些宗教的禁忌而挨揍，挨完揍之后，他就迅速得出了更接近真相的結(jié)論。

這樣一個建立假設(shè)、驗(yàn)證、挨揍，之后再建立新假設(shè)的過程，實(shí)際上是科學(xué)家的做法，以自己被揍為代價，增進(jìn)了對地球的認(rèn)識。但是，重要的地方在于，他的思維方式僅僅是基于小數(shù)據(jù)：被揍一次之后立刻修改自己的解釋；如果是大數(shù)據(jù)，他會想，被揍一次還不行，應(yīng)該多被揍幾次才能得出正確結(jié)論。生物體要是按照大數(shù)據(jù)的思維方式來的話，早就在地球上滅絕了。

在您看來，未來的人工智能，或者說真正的人工智能應(yīng)該是什么樣的？

徐英瑾：現(xiàn)在很多人工智能研究最大的問題，是不受視角的制約，但是，真正的人工智能是受視角和立場制約的。對機(jī)器來說，就是受制于預(yù)裝的系統(tǒng)和它后來不斷學(xué)習(xí)的經(jīng)驗(yàn)，而預(yù)裝的系統(tǒng)，就相當(dāng)于人類的文化背景。我所構(gòu)想的人工智能，是需要學(xué)習(xí)和培養(yǎng)的。AlphaGo當(dāng)然也要學(xué)習(xí)，一個晚上下一百萬盤棋，但那是極為消耗能量的學(xué)習(xí)。人工智能應(yīng)該是舉一反三式的學(xué)習(xí)。AlphaGo雖然強(qiáng)大，但是只能干下棋這樣一件事情，無法干別的。

當(dāng)然，我并不是說，AlphaGo的深度學(xué)習(xí)技術(shù)不能用來做下棋之外的事，這個技術(shù)本身可以用來做很多事情。我的意思是說，這個技術(shù)一旦做成某一具體的產(chǎn)品，這個產(chǎn)品的功能就固定下來了。用樂高積木來打個比方，如果你是精于此道的高手，你可以拼出一艘航母、一幢高樓，但是一旦拼出了一艘航母，除非你把它拆掉，它就一直是航母了，不再會是高樓。

類似地，一旦你用深度學(xué)習(xí)技術(shù)做出了AlphaGo這個專門用來下棋的機(jī)器人，如果再想讓它去干別的，很多基本訓(xùn)練和基礎(chǔ)架構(gòu)就必須從頭做起，這就相當(dāng)于把拼成航母的樂高積木一塊一塊地拆下來，再拼成一艘航母，而想而知工作量會有多大。那么，問題來了：你是需要一個什么都能干，雖然不一定能干到最好的機(jī)器人呢，還是需要一個只能把一件事情做到最好，其他什么都不會的機(jī)器人？這兩種機(jī)器人，哪種對人類社會起到的作用更大？

不妨拿戰(zhàn)爭舉個例子。未來的戰(zhàn)場會需要大量的戰(zhàn)斗型機(jī)器人。一個士兵在戰(zhàn)場上遇到的情況是千變?nèi)f化的。請問，難道只有醫(yī)療兵知道怎么救援嗎？別的士兵也知道，只是未必做得有那么好而已。同樣，醫(yī)療兵也會使用槍械。

再拿家政服務(wù)舉個例子，給中產(chǎn)家庭用的機(jī)器人，和給富豪家庭用的機(jī)器人，肯定是不一樣的。AlphaGo這樣的機(jī)器人怎么去迅速適應(yīng)呢？關(guān)于圍棋的輸贏是有明確規(guī)則的，可是家政問題有規(guī)則嗎？如果機(jī)器人給一個大知識分子收拾書房，打掃得太干凈，他反而不滿意，可能要拍桌子：“亂有亂的味道！書房怎么可以弄得這么干凈呢？”但是你不給他打掃，他又不開心了，“書總歸要碼得整齊一點(diǎn)，蜘蛛網(wǎng)總歸要掃掉吧”。

所以，行為的分寸如何把握，是需要人工智能來學(xué)習(xí)和判斷的。而人工智能如何學(xué)習(xí)和判斷呢？這是需要人類去調(diào)教的。