牛津、劍橋等專家聯(lián)合發(fā)布報(bào)告：警惕AI在未來(lái)的惡意使用

當(dāng)談到人工智能所帶來(lái)的危險(xiǎn)，我們通常強(qiáng)調(diào)的是意想不到的副作用。我們擔(dān)心可能在無(wú)意間創(chuàng)造了超級(jí)智能AI，但在編程中沒(méi)有加入道德約束; 或者我們部署了刑事判決算法，這些算法包括了訓(xùn)練數(shù)據(jù)的偏見(jiàn)。

但這只是一方面。

但是那些想把AI用于不道德行為、犯罪或惡意目的的人呢？這些人群是否更有可能利用AI進(jìn)行惡意攻擊？

來(lái)自牛津大學(xué)的人類未來(lái)研究所、劍橋大學(xué)的潛在風(fēng)險(xiǎn)研究中心和Elon Musk支持的非營(yíng)利性O(shè)penAI等十四家組織機(jī)構(gòu)的二十六名專家認(rèn)為，以上兩個(gè)問(wèn)題的答案是肯定的。

在上周發(fā)布的《人工智能的惡意使用：預(yù)測(cè)、預(yù)防和緩解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的報(bào)告中，這些學(xué)者和研究人員列舉了在未來(lái)5年內(nèi)AI可能給我們生活帶來(lái)危害的方式，以及能夠阻止這些危害的方法。雖然AI給人們帶來(lái)新型的攻擊，該報(bào)告的合著者，來(lái)自人類未來(lái)研究所的Miles Brundage認(rèn)為，我們并不該感到恐慌或放棄希望。

“我傾向于保持樂(lè)觀，我們可以采取許多措施，”Brundage認(rèn)為?！斑@篇報(bào)告的目的并不是描述未來(lái)慘淡的前景，而意味著我們可以采取大量防御措施，并且還有很多需要學(xué)習(xí)的東西。我并不認(rèn)為這是沒(méi)有希望的，這篇報(bào)告更像是倡導(dǎo)書?！?

近100頁(yè)的報(bào)告內(nèi)容廣泛，當(dāng)中重點(diǎn)介紹了AI將加劇數(shù)字、物理安全系統(tǒng)的威脅，以及創(chuàng)造新型危險(xiǎn)的方式。還闡述了解決這些問(wèn)題的五條建議：包括讓AI工程師了解他們研究中可能存在的惡意使用; 啟動(dòng)政策制定者和學(xué)者之間的交流對(duì)話，避免政府和執(zhí)法機(jī)構(gòu)對(duì)此一無(wú)所知。

AI將減少威脅成本

其中最主要的威脅在于：AI能夠讓需要人工完成的任務(wù)自動(dòng)化，從而大大減少攻擊成本。

比如，釣魚攻擊，即某人發(fā)送其中特別設(shè)計(jì)的信息，誘使他人放棄安全憑證(比如冒充銀行的電子郵件)。當(dāng)中的大部分工作可以由AI自動(dòng)完成，映射出個(gè)人的社交和專業(yè)網(wǎng)絡(luò)，然后生成消息。比如通過(guò)創(chuàng)建聊天機(jī)器人冒充好友，向你索要郵箱密碼等。

這種攻擊聽(tīng)起來(lái)很復(fù)雜，但一旦你創(chuàng)建了這些軟件，那么就可以反復(fù)使用，而不需要額外成本。釣魚郵件已經(jīng)帶來(lái)了足夠的危害，比如2014年好萊塢名人iCloud照片泄露事件，以及希拉里克林頓的競(jìng)選主席John Podesta私人郵件的泄露事件。

AI將增加威脅的新維度

第二大要點(diǎn)是，AI會(huì)為現(xiàn)有威脅增加新的維度。

比如在釣魚攻擊中，AI不僅可用于生郵件和短信，還可以用來(lái)偽造音頻和視頻。AI可以通過(guò)幾分鐘的語(yǔ)音來(lái)模擬目標(biāo)人物的聲音，甚至生成虛假的視頻。這種新型的威脅形式將在未來(lái)五年成為不可忽視的問(wèn)題。

AI將帶來(lái)的全新威脅

最后，報(bào)告介紹了AI帶來(lái)的全新威脅。當(dāng)中列出了一些可能出現(xiàn)的場(chǎng)景，比如恐怖分子將植入炸彈的清潔機(jī)器人帶入政府部門。機(jī)器人利用內(nèi)置的視覺(jué)感應(yīng)系統(tǒng)追蹤特定的目標(biāo)，當(dāng)靠近目標(biāo)時(shí)炸彈引爆。這利用了AI的新產(chǎn)品(清潔機(jī)器人)和其自主功能(機(jī)器視覺(jué)追蹤)。

這些情景聽(tīng)起來(lái)似乎有些不切實(shí)際，但我們已經(jīng)目睹了利用AI進(jìn)行的新型攻擊。比如用deepfakes用深度學(xué)習(xí)技術(shù)，在未經(jīng)同意的情況下所合成將名人的臉合成到色情視頻中。雖然目前還未出現(xiàn)引人注目的案例，但不法分子可以利用這種方式進(jìn)行騷擾和勒索。

我們能做什么

報(bào)告中的這些例子讓你不禁思考：我們能做什么？

報(bào)告中提出了五個(gè)主要建議：

· AI人員應(yīng)該告知研究中可能被惡意使用的情況；

· 決策者需要向技術(shù)專家了解這些潛在威脅；

· AI領(lǐng)域需要向網(wǎng)絡(luò)安全專家學(xué)習(xí)如何更好地進(jìn)行系統(tǒng)保護(hù)；

· 需要制定AI的道德倫理框架，并嚴(yán)格遵循；

· 需要有更多的人的參與。不僅僅是AI科學(xué)家和決策者，還包括倫理學(xué)家，企業(yè)和普通大眾。

換句話說(shuō)：我們需要更多的交流以及更多的行動(dòng)。