人工智能在企業(yè)應(yīng)用中的道德規(guī)范

AI是指智能水平不亞于甚至超過人類的軟件產(chǎn)品，也稱為“強(qiáng)AI”。但上述新項(xiàng)目對(duì)AI的定義還包括補(bǔ)充或取代人類決策的機(jī)器學(xué)習(xí)和數(shù)據(jù)驅(qū)動(dòng)算法。

例如，有證據(jù)表明，當(dāng)黑皮膚的使用者把手放在傳感器上時(shí)，某些自動(dòng)皂液器不起作用。這些系統(tǒng)由開發(fā)人員用自己的手進(jìn)行測(cè)試，但沒有在膚色不同的用戶身上進(jìn)行測(cè)試。這個(gè)例子說明人類創(chuàng)造的算法會(huì)按照開發(fā)者的觀點(diǎn)和偏見行事。

有多少首席執(zhí)行官真正知道他們的公司如何獲得和使用AI和AI算法？

人工智能（AI）越來越多地被用于企業(yè)應(yīng)用，它可以通過解析數(shù)據(jù)來獲得對(duì)客戶和競(jìng)爭(zhēng)對(duì)手的有用洞見，從而提供競(jìng)爭(zhēng)優(yōu)勢(shì)。但還有一個(gè)并行的趨勢(shì)：評(píng)估AI和企業(yè)AI算法的道德影響。

就在去年，麻省理工學(xué)院（MIT）和哈佛大學(xué)共同開展了一個(gè)探索AI道德規(guī)范的項(xiàng)目，耗資2700萬美元。最近，谷歌在2014年收購(gòu)的英國(guó)私企DeepMind Technologies組建了一支新的研究團(tuán)隊(duì)，致力于研究AI道德規(guī)范。近期其他的AI道德規(guī)范項(xiàng)目包括IEEE全球人工智能和自主系統(tǒng)道德考量計(jì)劃、紐約大學(xué)AI Now研究所和劍橋大學(xué)Leverhulme未來智能研究中心。

AI道德規(guī)范為什么如此令人感興趣，這對(duì)企業(yè)組織意味著什么？

最近發(fā)生的災(zāi)難性品牌名聲受損和輿論抨擊揭示了將AI部署到企業(yè)中可能伴隨的道德、社會(huì)和企業(yè)風(fēng)險(xiǎn)。

AI的定義

一些專家堅(jiān)持認(rèn)為，AI是指智能水平不亞于甚至超過人類的軟件產(chǎn)品，也稱為“強(qiáng)AI”。但上述新項(xiàng)目對(duì)AI的定義還包括補(bǔ)充或取代人類決策的機(jī)器學(xué)習(xí)和數(shù)據(jù)驅(qū)動(dòng)算法。

如果接受后面這個(gè)更廣泛的定義，那么我們必須認(rèn)識(shí)到，AI多年來就已經(jīng)是電腦時(shí)代的特征。如今，在大數(shù)據(jù)、互聯(lián)網(wǎng)和社交媒體時(shí)代，使用人工智能帶來的許多優(yōu)勢(shì)已經(jīng)廣為人知，受到普遍認(rèn)可：人工智能可以為企業(yè)提供競(jìng)爭(zhēng)優(yōu)勢(shì)、提升效率、洞悉客戶及其行為。

運(yùn)用算法來發(fā)現(xiàn)數(shù)據(jù)中的重要模式和價(jià)值，這幾乎被一致認(rèn)為是價(jià)值創(chuàng)造的省錢途徑，特別是在市場(chǎng)導(dǎo)向的競(jìng)爭(zhēng)環(huán)境中。但AI道德規(guī)范項(xiàng)目的興起證明，這些看似有利的AI應(yīng)用可能會(huì)適得其反。最近發(fā)生的災(zāi)難性品牌名聲受損和輿論抨擊揭示了將AI部署到企業(yè)中可能伴隨的道德、社會(huì)和企業(yè)風(fēng)險(xiǎn)。

企業(yè)組織應(yīng)該仔細(xì)思考他們使用AI的方式，因?yàn)檫@也會(huì)帶來商業(yè)風(fēng)險(xiǎn)。

企業(yè)如果未能發(fā)現(xiàn)AI算法或機(jī)器學(xué)習(xí)系統(tǒng)開發(fā)人員的潛在偏見，就可能會(huì)將企業(yè)中所有利益相關(guān)者的偏見系統(tǒng)化。

人的偏見和歧視

AI算法和我們用來訓(xùn)練這些算法的數(shù)據(jù)集通常來自人類。因此，這些算法不可避免地反映了人的偏見。例如，有證據(jù)表明，當(dāng)黑皮膚的使用者把手放在傳感器上時(shí)，某些自動(dòng)皂液器不起作用。這些系統(tǒng)由開發(fā)人員用自己的手進(jìn)行測(cè)試，但沒有在膚色不同的用戶身上進(jìn)行測(cè)試。這個(gè)例子說明人類創(chuàng)造的算法會(huì)按照開發(fā)者的觀點(diǎn)和偏見行事。

這些偏見通常是無意的，但無論造成的后果是否有意為之，犯下上述錯(cuò)誤的公司都會(huì)面臨潛在風(fēng)險(xiǎn)。更重要的是，不管有意還是無意，人造算法可能固有的人類偏見在很大程度上逃避了審查，從而導(dǎo)致使用AI的企業(yè)面臨風(fēng)險(xiǎn)。

企業(yè)如果未能發(fā)現(xiàn)AI算法或機(jī)器學(xué)習(xí)系統(tǒng)開發(fā)人員的潛在偏見，就可能會(huì)將企業(yè)中所有利益相關(guān)者的偏見系統(tǒng)化。這會(huì)使企業(yè)面臨品牌名聲受損、法律訴訟、輿論抨擊的風(fēng)險(xiǎn)，還可能失去員工和客戶的信任。

企業(yè)應(yīng)該為自己和社會(huì)所做的是否不僅僅是遵紀(jì)守法？企業(yè)能否自信地說自己對(duì)AI的使用是公平的、透明的、對(duì)人類負(fù)責(zé)的？

AI的廣泛應(yīng)用和風(fēng)險(xiǎn)

存有偏見的皂液器只是一個(gè)例子，AI算法還可以用于招聘、量刑和安保行動(dòng)。它們是社交媒體正常運(yùn)行或不正常運(yùn)行的內(nèi)在因素。

簡(jiǎn)而言之，AI被用于無數(shù)的日常和專業(yè)工作。它正變得無處不在，它對(duì)企業(yè)的潛在風(fēng)險(xiǎn)也是如此。我們面臨的挑戰(zhàn)是理解算法如何設(shè)計(jì)和審查，以避免開發(fā)者的觀點(diǎn)和偏見（不管是有意還是無意）。這提出了具有挑戰(zhàn)性的問題。

有多少首席執(zhí)行官真正知道他們的公司如何獲得和使用AI和AI算法？（許多公司與第三方AI解決方案提供商合作。）

企業(yè)盡職調(diào)查是一項(xiàng)法律要求，這是否包括審查企業(yè)如何生成和使用AI應(yīng)用程序？對(duì)于使用AI的企業(yè)來說，盡職調(diào)查和合規(guī)性的法律定義是否全面？道德規(guī)范和企業(yè)責(zé)任的傳統(tǒng)概念是否適用于此？

企業(yè)應(yīng)該為自己和社會(huì)所做的是否不僅僅是遵紀(jì)守法？企業(yè)能否自信地說自己對(duì)AI的使用是公平的、透明的、對(duì)人類負(fù)責(zé)的？

想要回答這些問題，企業(yè)必須審視和闡明自己在企業(yè)道德方面的立場(chǎng)，并運(yùn)用系統(tǒng)性方法來評(píng)估風(fēng)險(xiǎn)。

助長(zhǎng)趨勢(shì)

兩個(gè)趨勢(shì)可能加劇對(duì)AI應(yīng)用和AI用戶進(jìn)行風(fēng)險(xiǎn)評(píng)估的緊迫性和重要性。首先，消費(fèi)者、公民和政策制定者越來越重視和擔(dān)心人工智能的日益普及和可能造成的濫用或意外后果。由此產(chǎn)生的結(jié)果是，透明度，公平性和問責(zé)制作為競(jìng)爭(zhēng)優(yōu)勢(shì)得到了更多關(guān)注。

最終，我們希望能夠確定重要的價(jià)值觀，將它們嵌入到AI算法的設(shè)計(jì)中，了解相關(guān)風(fēng)險(xiǎn)，繼續(xù)驗(yàn)證個(gè)人、企業(yè)和社會(huì)在AI實(shí)踐方面的有效性。

行動(dòng)號(hào)召

解決這些問題的第一步是意識(shí)。你的公司如何使用AI，誰可能受到影響？是否需要聘請(qǐng)外部專家來進(jìn)行評(píng)估？

闡明你公司的核心價(jià)值觀也很重要。你使用AI的方式是否符合那些價(jià)值觀？如果不是，如何才能讓二者相符？

有資源可以幫助解決這一問題。例如，我是IEEE全球人工智能和自主系統(tǒng)道德考量計(jì)劃的執(zhí)行成員，該計(jì)劃致力于研究各種AI相關(guān)應(yīng)用的最佳實(shí)踐，提供有助于加強(qiáng)這方面認(rèn)識(shí)和決策指導(dǎo)的資源，制定AI應(yīng)用的標(biāo)準(zhǔn)。（IEEE是指電氣與電子工程師協(xié)會(huì)，是最大的技術(shù)專業(yè)組織，致力于推動(dòng)技術(shù)發(fā)展，造福人類。）

一個(gè)重要的資源是該計(jì)劃的“符合倫理的設(shè)計(jì)：人工智能和自主系統(tǒng)優(yōu)先考慮人類福祉的愿景”。這份文件已發(fā)布第二版，鼓勵(lì)技術(shù)人員在開發(fā)自主和智能技術(shù)的過程中，把道德考量放在優(yōu)先位置。

該計(jì)劃與IEEE標(biāo)準(zhǔn)協(xié)會(huì)展開了密切合作。最近，IEEE標(biāo)準(zhǔn)協(xié)會(huì)開始制定兒童和學(xué)生數(shù)據(jù)治理、雇主透明實(shí)踐和人類介入式AI的標(biāo)準(zhǔn)，確保由人類價(jià)值觀來引導(dǎo)影響我們每個(gè)人的算法開發(fā)。

最終，我們希望能夠確定重要的價(jià)值觀，將它們嵌入到AI算法的設(shè)計(jì)中，了解相關(guān)風(fēng)險(xiǎn)，繼續(xù)驗(yàn)證個(gè)人、企業(yè)和社會(huì)在AI實(shí)踐方面的有效性。

請(qǐng)放心，這是一個(gè)新興的話題，本文表達(dá)的擔(dān)心和目標(biāo)仍然是人們積極研究的領(lǐng)域。然而，想要在AI時(shí)代成為對(duì)社會(huì)負(fù)責(zé)任的企業(yè)，企業(yè)領(lǐng)導(dǎo)者必須意識(shí)到問題所在，開始識(shí)別企業(yè)價(jià)值觀，將之嵌入到AI應(yīng)用程序的道德設(shè)計(jì)中。