「機器人三大法則」經得起新時代的考驗嗎?

摘要： 機器人的能力已今非昔比，AI也一再挑戰人類的智慧，機器人三大法則還經得起AI機器人新時代的考驗嗎？讓我們來看看這幾大法則的意涵為何。

▲圖片標題(來源：Andrey_Popov via shutterstock)

如果你自認是機器人科幻的重度愛好者，想必對艾西莫夫（Isaac Asimov）這個名字耳熟能詳，被喻為二十世紀三大科幻小說家之一的他，特別對機器人的題材情有獨鍾，也獲得了「現代機器人故事之父」的美譽，即使在實際進行機器人研發的學界與業界，艾西莫夫也常扮演先行者的角色，許多優秀的學者專家都曾提及受到他的啟發。

艾西莫夫最為人稱道的事蹟，應該就是立下機器人三大法則（Three Laws of Robotics）！它歷史性的現身是在1942年發表的「轉圈圈」（Runaround）這篇文章，也被視為是人與機器人所訂下的第一份契約。這份界定雙方權利義務的合約轉眼間已經接近八十個年頭，想想如果一位職業運動員能夠簽下十年約，那絕對稱得上是張肥約，就算是國與國之間，80年的合約也極為少見，合約之所以簽不長，就是因為時間一拉長，時空環境當然會有所變化，尤其到了二十一世紀的今天，機器人的能力已今非昔比，AI也一再挑戰人類的智慧，即使被視為是經典，但機器人三大法則還經得起AI機器人新時代的考驗嗎？

就讓我們再仔細檢視一下機器人三大法則的條文：

第一法則、機器人不得傷害人類，或袖手旁觀坐視使人類受到傷害；

第二法則、除非違背第一法則，機器人必須服從人類的命令；

第三法則、在不違背第一及第二法則的情況下，機器人必須保護自己。

第零法則

這些法則當然是寫給科幻世界的機器人，即使如此，艾西莫夫也不至於天馬行空、隨意寫寫，其實每條法則都蘊含著深意，而且還依其重要性排定先後次序。對於具有一定危險性的機器人，合約的主要精神就在於絕對的安全與服從，由於它的造價昂貴，所以再追加一條自我保護的要求，以此內容來看，即使是依照現今工業應用的觀點，這約也算是簽的相當不錯！

但機器人三大法則所表述的就是基本的理念與原則，在實際運作的過程中難免會碰到條文窒礙難行的情形，像是第一法則就常常引發爭議，例如說，如果傷害一個人可以拯救全世界，該如何取捨？當總統與一介平民同時受難，又該救誰呢？在《機械公敵》（I，Robot）電影中，威爾．史密斯所飾演的警探一直對機器人十分不爽，心結就出在機器人在當他與小女孩一同落水時，選擇營救的對象竟然是他，對一位柔情硬漢來說，歉疚感比起喪失生命更難以承受啊！針對此點，艾西莫夫的回應是在1985年的《機器人與帝國》一書中加入第零法則：

機器人不得傷害人類整體，或袖手旁觀人類整體受到傷害。

加入這條法則事情會有改善嗎？這就讓科幻世界去煩惱吧！我們還是將觀戰重點拉回到人類真實的生活上來。

AI機器人的考驗

在這80年的時光中，AI機器人技術可說是一躍千里，也讓它的能力與貢獻度更加提昇、但相對地危險性也越大，也因此當我們在修訂條約內容時，特別要審慎評估新型態威脅的關鍵所在，像是知名作家伊格言在2018年「機器人三大定律過時了嗎？如何為AI立憲？」文章中就提到對AI意識上的關切，陸續也有學者述及AI在設計與演算法上的不透明度，以及擬人化機器人所引發的種種爭議等，這些都是在大量引入AI機器人到我們生活中時所必須要面對的。

出身哈佛、牛津、與耶魯名門的知名AI法律專家、美國布魯克林法律學院法蘭克．帕斯奎爾教授（Frank Pasquale）長期觀察AI機器人技術的演進，深度剖析它們到底會對人類生活產生何種的影響，他在2020所出版的New Laws of Robotics：Defending Human Expertise in the Age of AI（Harvard University Press）一書中，以較為全面性的觀點提出機器人新四大法則：

第一法則、請輔助人類的專業工作，而非加以取代；

第二法則、請不要試圖諧擬不真實的人性；

第三法則、請不要助長零和的武器競爭；

第四法則、永遠要標示出你的創造者、控制者、以及擁有者。

AI與人性

乍看之下，這幾個條文似乎沒有像機器人三大法則那般地條理分明、明快俐落，這除了艾西莫夫就是宗師級人物之外，主要的原因乃在於三大法則將機器人視為人類，我們比較容易同理，而帕斯奎爾教授著眼於應用在真實生活中的AI機器人技術，是依據他所觀察可能帶來的威脅來訂出法則，較著重於它實質面的效益，而兩者的用意都是在於保護人類。

我們就來看看這四大法則的意涵為何？首先第一條就明確要求機器人專心做好輔佐人類的角色，企業主也不要一心想讓它們全面取代人類工作，現階段AI機器人不應該、也沒有能力當家做主；對於一窩蜂想讓人型或社交機器人逼近人類外型或思維的做法，他十分憂心這種人造的人性終究有所偏差，甚至會扭曲人與機器人、或是人與人之間的關係；而以AI機器人進行替代戰爭以減少人類傷亡的想法，他更認為像是打開潘朵拉的黑盒子；第四條則直指AI的不透明性，一定要讓使用者清楚明白這程式或機器人到底是誰設計的，而我真的擁有並掌控它的運作嗎？不然的話，就會像是搭上不明程式所控制的自駕車，你的命運就此完完全全操縱在別人手上。

也許你不見得完全認同帕斯奎爾教授的看法，也或許未來還會更多新版的機器人N大法則推出，但相信大家都會同意---不能任由AI機器人技術毫無限制地開發，尤其不能在犧牲人類的自我與尊嚴的前提下。而無論是艾西莫夫或是帕斯奎爾教授想提醒我們的，無非就是「安全」與「服從」，因為機器人就是讓我們又愛又怕啊！

轉貼自： 數位時代

若喜歡本文，請關注我們的臉書 Please Like our Facebook Page： 　　　Big Data In Finance