譯者注：隨著人工智能技術(shù)的日新月異，機(jī)器人已經(jīng)逐漸融入到我們的生活。從快餐廳的自助點(diǎn)餐設(shè)備到家用的掃地機(jī)器人，再到自動(dòng)駕駛汽車，機(jī)器人正以各種各樣的形態(tài)存在于我們的日常生活與工作當(dāng)中。那么對(duì)于這些逐漸融入到我們生活的機(jī)器人來說，阿西莫夫著名的機(jī)器人三定律是否適用呢？

人工智能的進(jìn)步不斷推動(dòng)機(jī)器人廣泛應(yīng)用于我們的日常生活。曾經(jīng)看起來非常昂貴，只能用于重型制造業(yè)的機(jī)器人，已經(jīng)逐漸向低成本和小型化演變。雖然我們還沒有打造出夢(mèng)想的那種管家式機(jī)器人來照顧我們的日常生活，但家用的真空吸塵器事實(shí)上就可以看作是一種機(jī)器人。

阿西莫夫的機(jī)器人三定律

關(guān)于機(jī)器人，很多人都聽說過作家艾薩克?阿西莫夫的機(jī)器人三定律。他的科幻小說《Runaround》于1942年出版后，人們對(duì)這個(gè)傳奇定律的興趣和熱情似乎就變得勢(shì)不可擋。

機(jī)器人三定律源于阿西莫夫的科幻小說。

阿西莫夫的三定律是這樣規(guī)定的：

1、機(jī)器人不得傷害人類，或坐視人類受到傷害;

2、機(jī)器人必須服從人類給它的命令，除非這些命令與第一定律相沖突；

3、在不違背第一定律或第二定律的前提下，機(jī)器人必須保護(hù)自己的存在。

后來，阿西莫夫加入了一條新定律“第零定律”，該定律規(guī)定“機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。”

三定律未來或可編入真正的法律當(dāng)中

雖然阿西莫夫提出了這些定律，但它們并非真正的法律。這些定律都是人為制定的，而人類可以自由支配。我們既可以遵守，也可以完全無視，選擇權(quán)完全在我們自己。

法律其實(shí)是人類建立的規(guī)章制度。從這一點(diǎn)來說，阿西莫夫提出的機(jī)器人三定律或許應(yīng)當(dāng)寫入到我們的法律當(dāng)中，因?yàn)樵谖磥砟硞€(gè)時(shí)期，機(jī)器人很可能將和我們一起游走在街頭。而且這種做法是明智的。

無論機(jī)器人以何種形態(tài)出現(xiàn)，三定律都適用

當(dāng)提到阿西莫夫的機(jī)器人三定律時(shí)，人們可能會(huì)想用機(jī)器“人”這個(gè)詞來代替人工智能。因?yàn)槟憧赡軙?huì)狹義的認(rèn)為，好像它們只適用于一個(gè)碰巧長(zhǎng)得像人類的機(jī)器人，有腿、有胳膊、還有頭和身體等等。但并不是所有的機(jī)器人都必須這樣設(shè)計(jì)。

未來的機(jī)器人可以是任何形狀。

一些最新的機(jī)器人看起來更像動(dòng)物。也許你已經(jīng)看過一些流行的網(wǎng)絡(luò)視頻，視頻里的機(jī)器人有的看起來像狗，甚至還有昆蟲機(jī)器人。它們看起來有點(diǎn)嚇人，但卻可以幫助我們弄清如何利用機(jī)器人實(shí)現(xiàn)各種可能性。

機(jī)器人設(shè)計(jì)并不一定要有生物學(xué)上的靈感，比如自動(dòng)真空吸塵器看起來并不像任何常見的動(dòng)物或昆蟲。完全可以預(yù)料到，未來會(huì)有各種各樣的機(jī)器人問世，而且似乎并不僅僅基于生物。

無論我們將打造什么樣子的機(jī)器人，阿西莫夫三定律非常有用。這可能有點(diǎn)牽強(qiáng)，但真空吸塵器真的可以作為遵守三定律的候選人。當(dāng)然，你家里的吸塵器“機(jī)器人”不會(huì)試圖傷害你，而是應(yīng)該盡其所能避免這樣做。

有些機(jī)器人已經(jīng)出現(xiàn)在我們眼前，但我們可能不會(huì)認(rèn)為它們是機(jī)器人。基于人工智能的自動(dòng)駕駛汽車就是一個(gè)例子。

自動(dòng)駕駛系統(tǒng)與機(jī)器人駕駛員

由人工智能系統(tǒng)駕駛的汽車可以說是一種機(jī)器人。而你可能不認(rèn)同它們的機(jī)器人身份，原因是它沒有一個(gè)會(huì)走路、會(huì)說話的機(jī)器人坐在駕駛員的座位上。負(fù)責(zé)駕駛的電腦系統(tǒng)隱藏在汽車底盤或后備箱里，盡管它確實(shí)是機(jī)器人，但其真實(shí)身份似乎也常被人們忽視。

自動(dòng)駕駛汽車已經(jīng)開始上路測(cè)試。

令人鼓舞的是，科學(xué)家們正在努力創(chuàng)造能夠行走和說話的機(jī)器人，它們將能夠駕駛汽車。想象一下它們將給我們的世界帶來什么樣的改變。

目前，自動(dòng)駕駛汽車都是汽車改裝而成的。如果我們制造出的機(jī)器人可以駕駛汽車，這將意味著所有現(xiàn)有的汽車基本上都可以被視為自動(dòng)駕駛汽車。我們沒有必要因?yàn)樽詣?dòng)駕駛汽車的到來而拋棄傳統(tǒng)汽車，也沒有必要設(shè)計(jì)一種全自動(dòng)駕駛汽車，那些行走的機(jī)器人可以充當(dāng)我們的司機(jī)。

目前，最快捷的自動(dòng)駕駛汽車打造方式是將機(jī)器人內(nèi)置到汽車中。有人認(rèn)為，這些新興的自動(dòng)駕駛汽車將不可避免地被那些會(huì)走路會(huì)說話的機(jī)器人取代。也就是說，今天的自動(dòng)駕駛汽車將會(huì)過時(shí)，再次讓位于傳統(tǒng)的駕駛控制方式，也會(huì)是說最終汽車要么由人類駕駛，要么由機(jī)器人駕駛。

另外，也有人希望，當(dāng)我們?cè)谧詣?dòng)駕駛汽車領(lǐng)域已經(jīng)走得足夠遠(yuǎn)，不會(huì)再使用獨(dú)立的機(jī)器人來駕駛汽車。

從邏輯上來看一下問題所在

如果機(jī)器人駕駛員控制方向盤，這意味著傳統(tǒng)的駕駛控制仍然會(huì)保留。這也意味著，只要人們?cè)敢馑麄內(nèi)匀荒軌蝰{駛汽車。但人們相信，無論是內(nèi)置駕駛系統(tǒng)還是能走路的機(jī)器人，人工智能都將成為更好的司機(jī)，能夠減少酒駕和其它不良駕駛行為。事實(shí)上，一輛真正的自動(dòng)駕駛汽車不會(huì)有任何駕駛控制功能，這可能會(huì)讓獨(dú)立的機(jī)器人以及人類無法駕駛汽車。

未來獨(dú)立的機(jī)器人或許能夠成為人類的駕駛員。

人們或許會(huì)產(chǎn)生這樣一種想法：世界將完全轉(zhuǎn)向真正的自動(dòng)駕駛汽車。盡管一個(gè)能走路、會(huì)說話的駕駛機(jī)器人也可能成真，但也許自動(dòng)駕駛技術(shù)的發(fā)展會(huì)讓人不愿讓時(shí)間倒流，也不愿重新推出傳統(tǒng)汽車。這種想法似乎有點(diǎn)一廂情愿，但不管怎樣，自動(dòng)駕駛的核心似乎都是把人類駕駛員排除在外。

這就引出了另一個(gè)關(guān)鍵的、有時(shí)卻被忽視的關(guān)于機(jī)器人的觀點(diǎn)，即它們可以被置于涉及生死活動(dòng)的位置。你的家用真空吸塵器機(jī)器人不太可能成為生死攸關(guān)的決策者。但是，一輛內(nèi)置人工智能駕駛系統(tǒng)的自動(dòng)駕駛汽車，甚至一個(gè)機(jī)器人司機(jī)，無疑將處于決定人類生死命運(yùn)的位置。

當(dāng)你每天開車的時(shí)候，不管你是否意識(shí)到，你都是一個(gè)生死攸關(guān)的決策者。如果方向盤控制得不好，你可能喪命，也可能導(dǎo)致他人死亡。這看起來雖然相當(dāng)悲觀，但也是需要強(qiáng)調(diào)的嚴(yán)酷現(xiàn)實(shí)。當(dāng)新手司機(jī)駕駛汽車的瞬間，生死的擔(dān)憂就會(huì)突然變得相當(dāng)明顯。

既然這關(guān)系到生死存亡，我們應(yīng)該考慮將阿西莫夫的三條定律應(yīng)用到自動(dòng)駕駛汽車的使用中。因此我們就有了一個(gè)有趣的問題：阿西莫夫機(jī)器人三定律是否適用于基于人工智能的真正的自動(dòng)駕駛汽車？如果適用，我們應(yīng)該做些什么？

了解自動(dòng)駕駛汽車的等級(jí)

需要澄清的是，真正的自動(dòng)駕駛汽車是指人工智能完全獨(dú)立駕駛汽車，在駕駛過程中沒有任何人工輔助。這些無人駕駛汽車被認(rèn)為是4級(jí)和5級(jí)，而一輛需要人類駕駛員共同駕駛的汽車通常被認(rèn)為是2級(jí)或3級(jí)。后者被描述為半自動(dòng)駕駛，通常包含各種自動(dòng)附加組件，稱為ADAS（高級(jí)駕駛輔助系統(tǒng)）。

目前還沒有真正的5級(jí)自動(dòng)駕駛汽車，我們甚至不知道這是否有可能實(shí)現(xiàn)，也不知道需要多長(zhǎng)時(shí)間才能實(shí)現(xiàn)。與此同時(shí)，4級(jí)自動(dòng)駕駛汽車已經(jīng)逐漸得到一些機(jī)會(huì)在非常狹窄的特定公共道路上試驗(yàn)。但是人們對(duì)于這種測(cè)試是否應(yīng)該進(jìn)行頗具爭(zhēng)論。

真正的5級(jí)全自動(dòng)駕駛汽車尚未問世。

對(duì)于半自動(dòng)駕駛汽車，公眾需要警惕的是最近出現(xiàn)的一個(gè)令人不安的問題。部分司機(jī)拍攝了自己在駕駛2級(jí)或3級(jí)汽車時(shí)睡覺的視頻。我們都需要避免被誤導(dǎo)，認(rèn)為司機(jī)在駕駛半自動(dòng)汽車時(shí)可以分散他們的注意力。無論2級(jí)或3級(jí)的自動(dòng)化程度如何，你都要為車輛的駕駛行為負(fù)責(zé)。

自動(dòng)駕駛汽車和阿西莫夫的三定律

對(duì)于4級(jí)和5級(jí)真正的自動(dòng)駕駛汽車來說，駕駛過程中不會(huì)有人類駕駛員參與。所有的人類都是乘客，全程由人工智能系統(tǒng)進(jìn)行駕駛。讓我們簡(jiǎn)要地看看阿西莫夫的三條定律，看看它們?nèi)绾芜m用于真正的自動(dòng)駕駛汽車。

第一定律：有挑戰(zhàn)性！

首先，第一條定律規(guī)定，機(jī)器人（或者說人工智能系統(tǒng)）不得傷害人類，無論是通過公開行為還是不作為。當(dāng)它們操控方向盤的時(shí)候，這是一個(gè)很高的要求。為什么呢？

當(dāng)自動(dòng)駕駛汽車在街道上行駛，它會(huì)對(duì)周圍環(huán)境進(jìn)行積極的探測(cè)。但是當(dāng)一個(gè)小孩站在兩輛停著的汽車之間時(shí)，由于超出了自動(dòng)駕駛汽車的感應(yīng)范圍，它是看不到的。當(dāng)汽車正在以規(guī)定的速度行駛時(shí)，或許會(huì)遭遇孩子突然走上街道的情況。

有人認(rèn)為，自動(dòng)駕駛汽車永遠(yuǎn)不會(huì)撞上人，因?yàn)槿斯ぶ悄軗碛凶钕冗M(jìn)的感知能力，不會(huì)成為醉酒司機(jī)。不幸的是，在剛剛設(shè)想的那種情況下，自動(dòng)駕駛汽車必定會(huì)撞到那個(gè)孩子。之所以這么說，是因?yàn)槿魏稳斯ぶ悄茯?qū)動(dòng)系統(tǒng)都逃不開物理定律。

如果孩子突然冒了出來，而且距離移動(dòng)的汽車15英尺（約4.5米），而自動(dòng)駕駛汽車以每小時(shí)30英里（48公里每小時(shí)）的速度行駛時(shí)，它的剎車距離約為50至75英尺（15至23米），這意味著孩子很容易被撞到。

這意味著人工智能駕駛系統(tǒng)剛剛違反了阿西莫夫的第一條定律。人工智能傷害了人，但是需要保證人工智能系統(tǒng)確實(shí)會(huì)觸發(fā)自動(dòng)駕駛汽車的剎車，并盡其所能避免撞到孩子。盡管如此，人工智能系統(tǒng)沒有足夠的時(shí)間和距離去避免這種碰撞。

自動(dòng)駕駛汽車并非不會(huì)出現(xiàn)碰撞。

既然我們已經(jīng)證明了嚴(yán)格遵守阿西莫夫的第一條定律是不可能的，那么你至少可以假設(shè)，人工智能駕駛系統(tǒng)試圖遵守這條定律。通過剎車，人工智能駕駛系統(tǒng)似乎試圖避免撞擊兒童，而且如果汽車在撞擊時(shí)幾乎停下來，其結(jié)果可能不會(huì)那么嚴(yán)重。

那么，第一定律還規(guī)定了不應(yīng)該有任何不作為導(dǎo)致對(duì)人類的傷害。有人認(rèn)為，如果自動(dòng)駕駛汽車不試圖停下來，這種不作為可能就屬于這一范疇，也就是說，它再次未能遵守定律。我們可以做一點(diǎn)別的假設(shè)。假設(shè)人工智能駕駛系統(tǒng)能夠讓汽車轉(zhuǎn)向，從而避免撞到孩子，但是自動(dòng)駕駛汽車卻撞上了一棵樹，導(dǎo)致車?yán)锏囊晃怀丝团瞬弊印?/p>

雖然孩子得救了，但是自動(dòng)駕駛汽車?yán)锏某丝褪芰藗Ｄ憧梢钥紤]一下，拯救孩子與傷害乘客的結(jié)果相比是否值得。此外，你還可以考慮人工智能是否未能采取適當(dāng)措施，避免對(duì)乘客造成傷害。這種道德困境非常適用于自動(dòng)駕駛汽車，隨著自動(dòng)駕駛汽車的不斷出現(xiàn)，應(yīng)該得到更多的關(guān)注。

總而言之，阿西莫夫三定律中的第一條，對(duì)于基于人工智能的全自動(dòng)駕駛汽車來說，是一個(gè)極具挑戰(zhàn)性的目標(biāo)。盡管實(shí)現(xiàn)這一目標(biāo)將非常困難，但它可能是我們必須要解決的難題。

第二定律：人類命令如何不盲從？

阿西莫夫定律的第二條規(guī)定，機(jī)器人或者說這種人工智能的驅(qū)動(dòng)系統(tǒng)應(yīng)該服從人類給它的命令，除非人類發(fā)出的命令與第一條定律沖突。這似乎很簡(jiǎn)單，也很令人愉快。但這條定律也有它的問題。

曾經(jīng)有一篇文章報(bào)道了一個(gè)男人用車碾壓一個(gè)在橋上隨意開槍殺人的槍手的故事。司機(jī)阻止了槍手的惡行，這是一種英雄行為。

如果阿西莫夫第二定律被編程到自動(dòng)駕駛汽車的人工智能駕駛系統(tǒng)中，假設(shè)一名乘客命令人工智能碾壓槍手，人工智能大概會(huì)拒絕這么做。這是顯而易見的，因?yàn)檫@條指令會(huì)傷害人類。但是，這個(gè)案例似乎推翻了我們一貫堅(jiān)持的慣例。簡(jiǎn)言之，認(rèn)為第二條定律應(yīng)該得到執(zhí)行需要有根據(jù)，否則就意味著在那些罕見的情況下，它會(huì)因不作為而導(dǎo)致人類受到傷害。

問題是，讓人工智能駕駛系統(tǒng)毫無疑問的服從乘客也是不切實(shí)際的。如果自動(dòng)駕駛汽車的乘客告訴人工智能把車開到人行道上。而此時(shí)人行道上沒有行人，因此不會(huì)有人會(huì)受傷。那么，人工智能駕駛系統(tǒng)是否應(yīng)該服從人類發(fā)出的這種命令？

人工智能系統(tǒng)不會(huì)盲從乘客的命令。

人工智能當(dāng)然不應(yīng)該這樣做，我們最終將不得不解決這個(gè)問題，讓人工智能駕駛系統(tǒng)能夠判斷人類乘客的的哪些命令可以順從哪些命令需要拒絕。

第三定律：如何保護(hù)自己？

阿西莫夫提出的第三條定律是，只要第一條和第二條定律沒有被推翻，機(jī)器人或說人工智能的驅(qū)動(dòng)系統(tǒng)必須保護(hù)自己的存在。那么無人駕駛汽車是否應(yīng)該試圖保護(hù)自身？

有人認(rèn)為自動(dòng)駕駛汽車將有大約4年的壽命，最終在短短4年的駕駛時(shí)間里就會(huì)嚴(yán)重磨損。這似乎很令人驚訝，因?yàn)槲覀冾A(yù)計(jì)汽車的運(yùn)行時(shí)間會(huì)更長(zhǎng)，但自動(dòng)駕駛汽車的區(qū)別在于，它們的運(yùn)行時(shí)間接近24小時(shí)，行駛里程也比傳統(tǒng)汽車長(zhǎng)得多。

那么，假設(shè)一輛自動(dòng)駕駛汽車正接近它的壽命終點(diǎn)。該車將自動(dòng)行駛到垃圾堆進(jìn)行回收利用。人工智能駕駛系統(tǒng)可能會(huì)決定不去回收中心，從而試圖保護(hù)自己，這可以接受嗎？如果有人讓它去那里，那么按照第二定律，自動(dòng)駕駛汽車就必須遵守。

最終的結(jié)論

基于上述邏輯，我們對(duì)阿西莫夫的三條定律在自動(dòng)駕駛汽車上的應(yīng)用不得不有所保留。人工智能駕駛系統(tǒng)可以根據(jù)這些定律來設(shè)計(jì)，將其作為總體架構(gòu)的一部分，但這些定律是一種愿望，而不是不可改變的法則。

在自動(dòng)駕駛汽車常態(tài)化之前，我們必須解決其中的道德困境。

開車存在一個(gè)巨大的道德困境，人們往往認(rèn)為這是必然的。我們需要弄清楚人工智能駕駛系統(tǒng)將如何做出生死抉擇。而且這必須在我們讓自動(dòng)駕駛汽車充斥我們的街道之前完成。

大約80年前，阿西莫夫曾說過：“現(xiàn)在生活中最悲哀的方面是，科學(xué)積累知識(shí)的速度快于社會(huì)積累智慧的速度。”但這句話非常值得我們回味。
責(zé)編AJX