牛津、劍橋等專家聯(lián)合發(fā)布報告：警惕AI在未來的惡意使用

當談到人工智能所帶來的危險，我們通常強調(diào)的是意想不到的副作用。我們擔心可能在無意間創(chuàng)造了超級智能AI，但在編程中沒有加入道德約束; 或者我們部署了刑事判決算法，這些算法包括了訓(xùn)練數(shù)據(jù)的偏見。

但這只是一方面。

但是那些想把AI用于不道德行為、犯罪或惡意目的的人呢？這些人群是否更有可能利用AI進行惡意攻擊？

來自牛津大學(xué)的人類未來研究所、劍橋大學(xué)的潛在風險研究中心和Elon Musk支持的非營利性O(shè)penAI等十四家組織機構(gòu)的二十六名專家認為，以上兩個問題的答案是肯定的。

在上周發(fā)布的《人工智能的惡意使用：預(yù)測、預(yù)防和緩解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的報告中，這些學(xué)者和研究人員列舉了在未來5年內(nèi)AI可能給我們生活帶來危害的方式，以及能夠阻止這些危害的方法。雖然AI給人們帶來新型的攻擊，該報告的合著者，來自人類未來研究所的Miles Brundage認為，我們并不該感到恐慌或放棄希望。

“我傾向于保持樂觀，我們可以采取許多措施，”Brundage認為?！斑@篇報告的目的并不是描述未來慘淡的前景，而意味著我們可以采取大量防御措施，并且還有很多需要學(xué)習的東西。我并不認為這是沒有希望的，這篇報告更像是倡導(dǎo)書?！?

近100頁的報告內(nèi)容廣泛，當中重點介紹了AI將加劇數(shù)字、物理安全系統(tǒng)的威脅，以及創(chuàng)造新型危險的方式。還闡述了解決這些問題的五條建議：包括讓AI工程師了解他們研究中可能存在的惡意使用; 啟動政策制定者和學(xué)者之間的交流對話，避免政府和執(zhí)法機構(gòu)對此一無所知。

AI將減少威脅成本

其中最主要的威脅在于：AI能夠讓需要人工完成的任務(wù)自動化，從而大大減少攻擊成本。

比如，釣魚攻擊，即某人發(fā)送其中特別設(shè)計的信息，誘使他人放棄安全憑證(比如冒充銀行的電子郵件)。當中的大部分工作可以由AI自動完成，映射出個人的社交和專業(yè)網(wǎng)絡(luò)，然后生成消息。比如通過創(chuàng)建聊天機器人冒充好友，向你索要郵箱密碼等。

這種攻擊聽起來很復(fù)雜，但一旦你創(chuàng)建了這些軟件，那么就可以反復(fù)使用，而不需要額外成本。釣魚郵件已經(jīng)帶來了足夠的危害，比如2014年好萊塢名人iCloud照片泄露事件，以及希拉里克林頓的競選主席John Podesta私人郵件的泄露事件。

AI將增加威脅的新維度

第二大要點是，AI會為現(xiàn)有威脅增加新的維度。

比如在釣魚攻擊中，AI不僅可用于生郵件和短信，還可以用來偽造音頻和視頻。AI可以通過幾分鐘的語音來模擬目標人物的聲音，甚至生成虛假的視頻。這種新型的威脅形式將在未來五年成為不可忽視的問題。

AI將帶來的全新威脅

最后，報告介紹了AI帶來的全新威脅。當中列出了一些可能出現(xiàn)的場景，比如恐怖分子將植入炸彈的清潔機器人帶入政府部門。機器人利用內(nèi)置的視覺感應(yīng)系統(tǒng)追蹤特定的目標，當靠近目標時炸彈引爆。這利用了AI的新產(chǎn)品(清潔機器人)和其自主功能(機器視覺追蹤)。

這些情景聽起來似乎有些不切實際，但我們已經(jīng)目睹了利用AI進行的新型攻擊。比如用deepfakes用深度學(xué)習技術(shù)，在未經(jīng)同意的情況下所合成將名人的臉合成到色情視頻中。雖然目前還未出現(xiàn)引人注目的案例，但不法分子可以利用這種方式進行騷擾和勒索。

我們能做什么

報告中的這些例子讓你不禁思考：我們能做什么？

報告中提出了五個主要建議：

· AI人員應(yīng)該告知研究中可能被惡意使用的情況；

· 決策者需要向技術(shù)專家了解這些潛在威脅；

· AI領(lǐng)域需要向網(wǎng)絡(luò)安全專家學(xué)習如何更好地進行系統(tǒng)保護；

· 需要制定AI的道德倫理框架，并嚴格遵循；

· 需要有更多的人的參與。不僅僅是AI科學(xué)家和決策者，還包括倫理學(xué)家，企業(yè)和普通大眾。

換句話說：我們需要更多的交流以及更多的行動。