主編序

一

無論生物學(xué)意義上的自然人類(以下簡稱人類)是否做好準(zhǔn)備，人工智能時代正逐步走來，而這恰恰是由人類自身所引起。

初級的人工智能或許能為人類帶來便捷，在我國，或許還能帶來規(guī)則意識，甚至法治理念的真正普及。這是因為，人工智能的本質(zhì)就是算法，任何算法必然建立在對某項事物認識的共性與常識之上。也正是在此意義上，人工智能能為人類服務(wù)，能代替自然人為人類服務(wù)。初級的人工智能，如果還沒有深度學(xué)習(xí)能力，或者深度學(xué)習(xí)能力尚不充分，它就難以進行諸如自然人價值判斷與情感判斷的活動，比如包含愛的交流與體驗，難以對疑難案件作出理性裁判，對案件的漏洞填補與價值補充等。在此意義上，人工智能產(chǎn)品還主要表現(xiàn)為人工智能物，僅在有限的意義上具有自然人的屬性。但即便是初級的人工智能，在我國也具有非常重要的意義，主要表現(xiàn)為規(guī)則意識與誠信觀念的建立。人工智能最核心的大腦就是算法，算法本身便是規(guī)則。初級人工智能對人類的服務(wù)就是規(guī)則服務(wù)；而人類要接受人工智能的服務(wù)，就必須接受算法設(shè)定的各種規(guī)則。人工智能，尤其是結(jié)合網(wǎng)絡(luò)運用的人工智能，會促使與提升自然人的規(guī)則意識，因為無論自然人在線下是否遵守規(guī)則，也無論規(guī)則在線下如何難以推行與實現(xiàn)，只要自然人接受線上服務(wù)，就必須遵守線上規(guī)則；無論自然人在線下如何不守信，他在線上也必須誠實，否則他就進入不了虛擬世界，便也無從獲得特定人工智能的服務(wù)。在初級的人工智能時代，人類仍是核心，是世界的主宰，畢竟自然人仍是規(guī)則的制定者，是人工智能的服務(wù)對象。

而到了高級人工智能時代，即，當(dāng)人工智能能夠進入深度學(xué)習(xí)與感情交流，可以進行團體合作與共同行動時，換句話說，當(dāng)人工智能可以改變甚至完全脫離自然人為其設(shè)計好的初始算法而創(chuàng)制新的算法時，那時的人工智能物便實實在在地變成了人工智能人。人工智能人如何改變自然社會，甚至如何引導(dǎo)與影響整個自然社會走向，已非自然人所能完全掌控與想象，恐怕也為人工智能人本身所不知。尤其是，當(dāng)人工智能人可以在虛擬世界制定規(guī)則(創(chuàng)制新的算法)，而這種規(guī)則又必然會影響到自然世界時，那時自然世界的主宰到底是人工智能人，還是自然人，或許現(xiàn)在的我們(人類)已經(jīng)難以給出確定答案。那時的人類在自然世界或虛擬世界中處于何種主體地位，現(xiàn)在的我們也不得而知。當(dāng)人工智能人有了情感交流能力并具有生物生成功能后，在自然人與自然人、人工智能人與人工智能人以及自然人與人工智能人之間的多元關(guān)系中，誰來制定規(guī)則，為誰制定規(guī)則，誰是自然世界或者虛擬世界的主宰或規(guī)則主體，以及各種形態(tài)主體之間具體的生活樣態(tài)如何等問題，可能都遠遠超出了我們當(dāng)下的想象，或許那時的社會狀態(tài)本身就不可想象！

正是為了認真面對這些問題，警惕與體味這些問題，以便未來更好地深入研究或應(yīng)對這些問題，上海人民出版社曹培雷副總編輯、法律與社會讀物編輯中心蘇貽鳴總監(jiān)、秦堃編輯等及本人一起探討決定編譯人工智能叢書，幫助我國讀者了解既有的人工智能研究，并以此為切入口對人工智能進行深度了解與學(xué)習(xí)。我們篩選并翻譯了國外有關(guān)人工智能研究的較有影響力的三部經(jīng)典著作，推介給中國讀者。這三部著作便是意大利學(xué)者烏戈·帕加羅所著的《誰為機器人的行為負責(zé)？》、美國律師約翰·弗蘭克·韋弗所著的《機器人是人嗎？》以及美國學(xué)者瑞恩·卡洛、邁克爾·弗魯姆金和加拿大學(xué)者伊恩·克爾編輯的文集《人工智能與法律的對話》。

二

《誰為機器人的行為負責(zé)？》一書，由張卉林、王黎黎和筆者共同翻譯。該書通篇都在試圖回答一個問題：誰來承擔(dān)責(zé)任(Who Pays)。作者建構(gòu)了一種分析法律責(zé)任模型。他在刑法、合同法和侵權(quán)法的框架下討論了27種假設(shè)情況，例如刑法中的機器人士兵、合同法中的外科手術(shù)機器人以及侵權(quán)法中的人工智能雇員等，目的是分析在不同的情況下設(shè)計者、生產(chǎn)者、使用者和機器人之間應(yīng)當(dāng)如何分配責(zé)任。作者還討論了機器人對現(xiàn)代法學(xué)體系中的若干重要內(nèi)容帶來的挑戰(zhàn)，比如刑法中的正義戰(zhàn)爭理論、合同法中的代理資格以及侵權(quán)法中的責(zé)任承擔(dān)。上述問題的討論建立在作者對法律責(zé)任和義務(wù)的概念的分析基礎(chǔ)上，討論法律基礎(chǔ)是否會受到機器人技術(shù)的影響。最后，作者討論了作為元技術(shù)的法律，即如何通過法律實現(xiàn)對技術(shù)發(fā)展的控制。

《機器人是人嗎？》一書由劉海安、徐鐵英和向秦翻譯。該書認為，人工智能可以達到如同與真人一樣進行語音交流的程度，并自主學(xué)習(xí)知識和判斷問題。作者討論了人工智能的知識產(chǎn)權(quán)享有和責(zé)任承擔(dān)問題。作者認為，面對人工智能承擔(dān)法律責(zé)任，可以通過人工智能保險或儲備基金支付賠償費用。如何規(guī)范人工智能？作者以美國各州對自動駕駛汽車的相關(guān)立法為例，對未來人工智能統(tǒng)一立法作出合理預(yù)測：(1)當(dāng)產(chǎn)品制造商、開發(fā)商和人類都沒有過錯時，不同體系的機構(gòu)將會為涉及人工智能的事故受損者建立賠償或補償基金；(2)至少在初期，很多形式的人工智能產(chǎn)品的使用將被要求獲得執(zhí)照許可背書；(3)在初期，往往需要對人工智能進行人為監(jiān)督，但是最終，只有那些主要用于改善人類表現(xiàn)的人工智能才需要人為監(jiān)督；(4)盡管最初的立法將會經(jīng)常把人類作為操作者(行為人)，即使這種標(biāo)簽不適用于人工智能的類型，但最終立法會在以確定操作者責(zé)任為目的時變得更加細分；(5)立法將始終區(qū)分用于測試目的的人工智能和向消費者提供的人工智能；(6)立法將始終要求這樣一個機制，允許人類脫離人工智能但很容易重新控制人工智能；(7)立法將始終要求在自動化技術(shù)失敗時，人工智能產(chǎn)品能向周圍的人發(fā)出警告；(9)對采集個人信息的擔(dān)憂將會迫使法律要求披露人工智能運作時所收集的信息。

《人工智能與法律的對話》由陳吉棟、董惠敏和杭穎穎翻譯。本書共分討論起點、責(zé)任、社會和道德意義、執(zhí)法和機器人戰(zhàn)爭5個部分，共14篇論文。其中，大部分是首次在We Robot這一跨學(xué)科會議上發(fā)布的最新論文。這些論文探討了機器人的日益復(fù)雜化以及它們在各個領(lǐng)域的廣泛部署，重新思考了它所帶來的各種哲學(xué)和公共政策問題、與現(xiàn)有法律制度不兼容之處，以及因此可能引發(fā)的政策和法律上的變化。整本書為我們生動地展現(xiàn)了一場內(nèi)容廣泛、啟發(fā)深遠的對話，如本書第二部分有關(guān)機器人行為責(zé)任的講述：F.帕特里克·哈伯德教授《精密機器人所致人身損害的風(fēng)險分配》一文對普通法應(yīng)對技術(shù)變革的能力提供了一種樂觀的評估：普通法系統(tǒng)包含了內(nèi)部機制，能夠為應(yīng)對機器人化的世界作出必要的相對較小的變化；而柯蒂斯·E.A.卡諾法官在《運用傳統(tǒng)侵權(quán)法理論迎接機器人智能》一文中則提出了截然相反的觀點：傳統(tǒng)的過失和嚴(yán)格責(zé)任理論不足以應(yīng)對真正自主性機器人的挑戰(zhàn)。

需要說明的一點是，我們從2017年9月確定翻譯書目，10月組建翻譯團隊，到12月后陸續(xù)落實版權(quán)并著手翻譯，翻譯時間可謂十分緊張。叢書譯者多為高�；蛘哐芯繖C構(gòu)的青年科研教學(xué)人員，需要克服繁重的教學(xué)和科研壓力；加之，所譯著作內(nèi)容涉及法律、計算機和倫理等多元且交叉的學(xué)科知識，遠遠超出了多數(shù)譯者所在的法學(xué)學(xué)科領(lǐng)域，翻譯不當(dāng)甚至錯誤恐在所難免，在此我們衷心懇請并接受各位讀者、專家批評指正。

三

2017年7月中華人民共和國國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，強調(diào)建立保障人工智能健康發(fā)展的法律法規(guī)，妥善應(yīng)對人工智能可能帶來的挑戰(zhàn)，形成適應(yīng)人工智能發(fā)展的制度安排。《規(guī)劃》為此要求開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認、隱私和產(chǎn)權(quán)保護、信息安全利用等法律問題研究，建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。但正如弗魯姆金(Froomkin)指出的，也可能是本譯叢三本書的作者們皆認可的：(1)對于機器人和監(jiān)管問題，現(xiàn)在還為時尚早；(2)技術(shù)問題遠比律師想象的復(fù)雜，法律、倫理和哲學(xué)問題比工程師想象的更有爭議(有時也更復(fù)雜)；(3)我們要徹底解決這些問題的唯一辦法就是擴大和深化我們跨學(xué)科的努力。讓世界為機器人做好準(zhǔn)備的同時，使機器人也為世界做好準(zhǔn)備，這必須是一個團隊項目否則它可能會變得很糟糕。由此揭示出，對于人工智能的探討與研究，即便是對于人工智能的規(guī)范性研究，并非法學(xué)一個學(xué)科所能勝任。人工智能本身就是一個具有綜合性、復(fù)雜性、前沿性的知識、智識與科學(xué)，它需要幾乎所有的理工與人文社會科學(xué)學(xué)科進行交叉性研究，也需要研究者、實體技術(shù)者與產(chǎn)業(yè)者等各個領(lǐng)域的人配合與對話。法律人在人工智能的研究、開發(fā)、規(guī)則制定等各個環(huán)節(jié)中是不可缺少的一環(huán)，但也僅僅是一個環(huán)節(jié)，他只有加入人工智能的整體研究與發(fā)展中去，才會發(fā)揮更大的價值。我們期待這套譯叢的出版有助于人工智能在法學(xué)及其他領(lǐng)域展開深入討論，為跨學(xué)科的對話甚至團隊合作提供一定程度的助益。

無論未來人工智能時代的社會生活樣態(tài)如何，無論人工智能時代的社會主體如何多元，多元的主體依然會形成他們自己的存在哲學(xué)，也許依然需要他們自己的情感系統(tǒng)。無論未來的人工智能時代多么不可預(yù)測，問題的關(guān)鍵還是在于人類的自我與社會認知。就像蘋果公司首席執(zhí)行官蒂姆·庫克(Tim Cook)在麻省理工學(xué)院(MIT)2017屆畢業(yè)典禮演講中指出的，我并不擔(dān)心人工智能能夠像人一樣思考，我更關(guān)心的是人們像計算機一樣思考，沒有價值觀，沒有同情心，沒有對結(jié)果的敬畏之心。這就是為什么我們需要你們這樣的畢業(yè)生，來幫助我們控制技術(shù)。是的，我們或許不知未來的人工智能是否會產(chǎn)生包含同情與敬畏的情感，但我們能夠確信的是，即便在人工智能時代，我們最需要的依然是人類飽含同情與敬畏的愛！未來的人工智能時代無論是初級樣態(tài)還是高級學(xué)習(xí)樣態(tài)，能夠讓多元的主體存在并和諧相處的，能夠把多元主體維系在一起的或許唯有愛。這個從古至今在自然世界難以找到確定含義的概念，在虛擬與現(xiàn)實共處的世界中更是難以獲得其固定內(nèi)涵，但我們唯一知道并可以確信的是，如果沒有愛，那么未來的人工智能時代就真的進入了一個混沌而混亂的世界！

上海交通大學(xué)凱原法學(xué)院2018年7月10日