CDA數(shù)據(jù)分析師 出品

編譯：Mika

【導(dǎo)讀】

雖然自動(dòng)駕駛車(chē)可能比手動(dòng)駕駛更安全、更方便，但也并不能完全避免事故的發(fā)生。如果遇到不可避免的事故，自動(dòng)駕駛車(chē)該如何被編程來(lái)應(yīng)對(duì)呢？

在本文中帕特里克·林就探討了領(lǐng)略了自動(dòng)駕駛車(chē)帶來(lái)的道德問(wèn)題。

自動(dòng)駕駛中的道德難題

我們來(lái)做一個(gè)思維實(shí)驗(yàn)。

假定某一天，你坐在自動(dòng)駕駛汽車(chē)?yán)?，在高速公路上飛馳。

這時(shí)，你發(fā)現(xiàn)周?chē)擒?chē)。

突然，一個(gè)又大又沉的物體從你前方的卡車(chē)上掉下來(lái)，你的車(chē)來(lái)不及剎車(chē)來(lái)避免碰撞。

問(wèn)題1：因此它必須做一個(gè)決定：

A.繼續(xù)往前，然后撞在這個(gè)物體上

B.迅速左轉(zhuǎn)撞向一輛SUV

C.迅速右轉(zhuǎn)撞向一輛摩托車(chē)

你的車(chē)應(yīng)該以你的安全為重，而撞向摩托車(chē)嗎？

還是為了降低對(duì)他人的危險(xiǎn)，不轉(zhuǎn)彎，即使這樣會(huì)撞上巨大的物體，并給你帶來(lái)生命危險(xiǎn)犧？

或是選擇折中，撞向SUV，因?yàn)镾UV的安全性能較高？

自動(dòng)駕駛汽車(chē)應(yīng)該怎么做呢？

這種情況下，如果我們掌握著方向盤(pán)，不管我們?cè)趺醋觯紩?huì)被理解為瞬間的反應(yīng)，而不是經(jīng)過(guò)深思熟慮的決定。我們是在驚恐之下做出本能反應(yīng)，并未深謀遠(yuǎn)慮或懷揣惡意。

但是如果是程序員要指示這輛車(chē)，在未來(lái)的特定情況下做出某一決定，這聽(tīng)上去有點(diǎn)像蓄意謀殺。

不過(guò)話(huà)說(shuō)回來(lái)，自動(dòng)駕駛汽車(chē)預(yù)計(jì)可以大大減少交通事故和死亡率，因?yàn)檫@中間避免了人類(lèi)會(huì)犯的錯(cuò)誤，而且還有很多其他的潛在好處，比如不再擁堵的路面，汽車(chē)尾氣排放的減少，以及沒(méi)有了開(kāi)車(chē)的浪費(fèi)時(shí)間和壓力。

如遇事故，自動(dòng)駕駛車(chē)如何編程應(yīng)對(duì)

但是交通意外肯定還是會(huì)發(fā)生，當(dāng)它們發(fā)生時(shí)意外的后果可能在很久以前，就已經(jīng)被程序員或政策制定者設(shè)定好了。

這些決定可不好做，我們傾向于提供籠統(tǒng)的指導(dǎo)決定的原則，比如最小化傷害。但是這很快也會(huì)導(dǎo)致道德上模棱兩可的決定。

再舉個(gè)例子，假定前面的情況一致。但此時(shí)，在你的左邊騎摩托車(chē)的人戴著頭盔，而右邊騎摩托車(chē)的人沒(méi)戴頭盔。

問(wèn)題2：如果必須要選擇，你的自動(dòng)駕駛汽車(chē)應(yīng)該撞哪個(gè)？

A.戴著頭盔騎摩托車(chē)的人

B.沒(méi)戴頭盔騎摩托車(chē)的人

如果說(shuō)撞那個(gè)戴著頭盔的人 ，因?yàn)樗拇婊盥矢?，你難道不是在懲罰更負(fù)責(zé)任的騎摩托車(chē)者嗎？

反之，如果說(shuō)撞那個(gè)沒(méi)戴頭盔的人，因?yàn)椴淮黝^盔是不負(fù)責(zé)任的行為。但是這樣你就徹底違反了，原先的“最小化傷害”的原則，自動(dòng)駕駛汽車(chē)現(xiàn)在成了在主持公路正義了。

道德的問(wèn)題還要復(fù)雜得多，兩種情況下其背后的設(shè)計(jì)都是基于某種目標(biāo)算法。換句話(huà)說(shuō)，它系統(tǒng)地傾向或者歧視某一類(lèi)特定目標(biāo)。

而目標(biāo)車(chē)輛的車(chē)主，就得承擔(dān)這一算法的消極后果。雖然他們自己并沒(méi)有犯任何錯(cuò)，這些最新的科技還引起了其他的道德困境。

問(wèn)題3：如果你從以下兩輛車(chē)中選擇：

A.一輛在事故發(fā)生時(shí)，總是試圖拯救盡可能多生命的車(chē)

B.一輛不顧一切拯救你的車(chē)

你會(huì)買(mǎi)哪一輛？

如果汽車(chē)開(kāi)始分析并考慮，車(chē)?yán)锏某丝鸵约八麄兊纳娓怕是闆r又會(huì)怎樣？一個(gè)隨機(jī)的決定會(huì)不會(huì)還是比以“最小化傷害”為原則事先設(shè)計(jì)的決定更好？

誰(shuí)又應(yīng)該做這些決定呢？

程序員？

公司？

政府？

現(xiàn)實(shí)可能跟我們的思維實(shí)驗(yàn)有所出入，但是這不重要。

思想實(shí)驗(yàn)的目的是，對(duì)我們的道德本能進(jìn)行分離和壓力測(cè)試，就像物理世界的科學(xué)實(shí)驗(yàn)一樣。

現(xiàn)在識(shí)別這些道德的急轉(zhuǎn)彎，能幫助我們更好地掌控科技及其道德問(wèn)題的未知之路，并讓我們充滿(mǎn)信心和正義地駛向勇敢、嶄新的未來(lái)。