上海交通大學(xué)中國(guó)法與社會(huì)研究院

2021年02月10日【作者】中國(guó)法與社會(huì)研究院預(yù)覽：

季衛(wèi)東編著《AI時(shí)代的法制變遷》（“人工智能治理與法律”研究叢書① 上海三聯(lián)書店，2020年12月出版）

內(nèi)容簡(jiǎn)介

信息技術(shù)的廣泛采用導(dǎo)致人類日常生活日益被數(shù)字覆蓋、社會(huì)呈現(xiàn)出虛擬與實(shí)體交錯(cuò)互融以及智能網(wǎng)絡(luò)化的特征，產(chǎn)業(yè)經(jīng)濟(jì)也在相當(dāng)程度上已經(jīng)由數(shù)據(jù)驅(qū)動(dòng)。萬物聯(lián)通、大數(shù)據(jù)以及人工智能之間存在著互相促進(jìn)的正比例關(guān)系，這種一日千里的動(dòng)態(tài)對(duì)以物權(quán)為基石、以確定性為目標(biāo)的既有法律體系構(gòu)成嚴(yán)峻的挑戰(zhàn)，但同時(shí)也帶來了制度創(chuàng)新的機(jī)遇。人工智能技術(shù)在法律方面的應(yīng)用的確提高了司法效率和同案同判意義上的公正水平，然而在算法黑箱化現(xiàn)象里也潛伏著瓦解問責(zé)機(jī)制的風(fēng)險(xiǎn)。一方面，代碼框架和技術(shù)標(biāo)準(zhǔn)在很多方面正在改變權(quán)利義務(wù)的設(shè)置，甚至大有取代法律之勢(shì)；另一方面，常識(shí)庫(kù)構(gòu)建難題與符號(hào)落地難題以及價(jià)值判斷難題卻劃出了法律人工智能的界限。近來對(duì)人工智能在原則、倫理、規(guī)則以及政策等領(lǐng)域引發(fā)的各種問題進(jìn)行反思，使得怎樣對(duì)人工智能進(jìn)行適當(dāng)治理的討論也終于進(jìn)入公共話題和政治議程。以上述現(xiàn)象昭示的法律與社會(huì)大轉(zhuǎn)型為背景，本書全面考察人工智能在秩序和規(guī)則方面導(dǎo)致的復(fù)雜而深遠(yuǎn)的變化，并從跨學(xué)科的視角對(duì)現(xiàn)代法治范式轉(zhuǎn)換和理論創(chuàng)新的可能性進(jìn)行了初步探索。

序：人工智能時(shí)代呼喚法律的范式革命

我們都能體會(huì)到中國(guó)整個(gè)的社會(huì)系統(tǒng)正在發(fā)生非常深刻的變化。主要體現(xiàn)在日常生活的方方面面被數(shù)字所覆蓋，從網(wǎng)購(gòu)、外賣、移動(dòng)支付到電子保險(xiǎn)。疫情期間，體溫警察、健康碼、群體檢測(cè)更是為防控帶來了技術(shù)保障。通過掃碼和刷臉獲得的這些便利的實(shí)質(zhì)是什么？是幾乎把生活中所有的場(chǎng)面、所有的活動(dòng)都轉(zhuǎn)換成了數(shù)字形式，并積累成大數(shù)據(jù)。數(shù)據(jù)被稱為是21世紀(jì)的石油，是經(jīng)濟(jì)的驅(qū)動(dòng)力量。市場(chǎng)的主要交易形態(tài)也從往日的物品轉(zhuǎn)換成服務(wù)，例如便捷的網(wǎng)約車帶來的就是服務(wù)，使個(gè)人購(gòu)車的意義也大為下降。

人工智能時(shí)代社會(huì)系統(tǒng)變化，歸納起來呈現(xiàn)三個(gè)特征——智能網(wǎng)絡(luò)化、算法黑箱化、機(jī)器自主化。一方面，科技的規(guī)格、代碼似乎正在取代法律，另外一方面，人工智能也在參與輔助法律實(shí)施，加強(qiáng)法律的功能。這樣的背景下，一些已經(jīng)發(fā)生的實(shí)例和問題都不斷昭示：法律秩序的基本概念和制度設(shè)計(jì)需要一場(chǎng)范式革命。

例如在2020年6月27日，上海開始提供滴滴自動(dòng)駕駛網(wǎng)約車服務(wù)。隨之而來的當(dāng)然還有交通事故的風(fēng)險(xiǎn)、責(zé)任主體是誰(shuí)、交通規(guī)則如何執(zhí)行等一系列問題。從法律角度來看，首先要考慮共享乘車服務(wù)提供者的資質(zhì)和信用?，F(xiàn)有的《道路交通安全法》第19條規(guī)定駕駛者的資格要件，人工智能是否也需要獲得駕駛執(zhí)照？如何界定自動(dòng)駕駛車輛的智能化級(jí)別與法律的關(guān)系？一旦導(dǎo)入人工智能，開始只是發(fā)揮輔助性作用，或者部分操作自動(dòng)化；但到了附條件自動(dòng)駕駛或者完全自動(dòng)駕駛，軟件系統(tǒng)本身就成為責(zé)任主體。如果出了問題，是找汽車廠商、程序開發(fā)商，還是數(shù)據(jù)提供商追究賠償責(zé)任？這個(gè)責(zé)任如何認(rèn)定？如何分配？人工智能的利用者具有不同的類型，但無論是消費(fèi)利用還是商務(wù)利用，是否都應(yīng)該采取利用者免責(zé)的原則？第五，如果車輛在抵達(dá)目的地前拋錨了，是意味著服務(wù)終結(jié)還是提供其他出租車？在交易對(duì)象是車輛時(shí)由買主承擔(dān)后來的風(fēng)險(xiǎn)，但在交易對(duì)象是服務(wù)時(shí)是不是由賣主永遠(yuǎn)承擔(dān)后續(xù)風(fēng)險(xiǎn)？既然上海已經(jīng)有自動(dòng)駕駛網(wǎng)約車上路了，這些問題就會(huì)迫在眉睫，需要有關(guān)機(jī)關(guān)及時(shí)調(diào)研和立法，制定自動(dòng)駕駛的交通安全制度的設(shè)計(jì)方案。

從法律角度來看，數(shù)據(jù)保護(hù)有兩端——知識(shí)產(chǎn)權(quán)法與信息安全。數(shù)據(jù)是人工智能的養(yǎng)料。數(shù)據(jù)越多，規(guī)模越大，數(shù)據(jù)的質(zhì)量越好，人工智能預(yù)測(cè)能力也就越強(qiáng)。但數(shù)據(jù)的收集和應(yīng)用確實(shí)存在著信息安全的風(fēng)險(xiǎn)。歐盟在1996年制定數(shù)據(jù)庫(kù)權(quán)利法令，意在通過嚴(yán)格保護(hù)數(shù)據(jù)庫(kù)知識(shí)產(chǎn)權(quán)的方式促進(jìn)數(shù)據(jù)產(chǎn)業(yè)，結(jié)果失敗了。2018年又出臺(tái)《一般數(shù)據(jù)保護(hù)條例》(GDPR)，意在嚴(yán)格保護(hù)數(shù)據(jù)主體的隱私權(quán)，這當(dāng)然是很有必要的，也是現(xiàn)代法治精神的體現(xiàn)。這個(gè)世界最嚴(yán)數(shù)據(jù)規(guī)則的好處是能夠防止個(gè)人的信息隱私權(quán)受到侵犯。但問題是數(shù)據(jù)的本質(zhì)在于信息，信息很難進(jìn)行排他性的絕對(duì)保護(hù)，甚至很難確定數(shù)據(jù)究竟應(yīng)該屬于誰(shuí)。正因?yàn)檫@種事態(tài)會(huì)助長(zhǎng)數(shù)據(jù)利益分配上的不公平，所以才需要通過數(shù)據(jù)人權(quán)宣言的方式來制衡數(shù)據(jù)產(chǎn)業(yè)的暴利傾向、爭(zhēng)取實(shí)現(xiàn)分配的正義，這種立法意圖是可以理解、值得贊揚(yáng)的。但是，過于嚴(yán)苛的隱私保護(hù)會(huì)使數(shù)據(jù)的收集和利用變得非常困難。如果整個(gè)數(shù)據(jù)世界被隱私權(quán)分割成一小塊一小塊，那就無法有效率地發(fā)展數(shù)據(jù)產(chǎn)業(yè)和人工智能產(chǎn)業(yè)。

中國(guó)在2020年5月頒布的《民法典》單獨(dú)設(shè)立人格權(quán)編，這是一種鮮明的體例特色，也及時(shí)回應(yīng)了大數(shù)據(jù)和人工智能時(shí)代的需求?！睹穹ǖ洹啡烁駲?quán)編界定了隱私和個(gè)人信息的權(quán)利范圍，特別在第1034條強(qiáng)調(diào)了保護(hù)個(gè)人的健康信息和行蹤信息；在大數(shù)據(jù)的搜集上，規(guī)定了處理個(gè)人信息必須遵循的原則和條件以及信息安全保障的義務(wù)；《民法典》還規(guī)定了個(gè)人信息主體的權(quán)利構(gòu)成，包括查閱權(quán)、復(fù)制權(quán)、更正權(quán)、刪除權(quán)等等。在網(wǎng)絡(luò)侵權(quán)責(zé)任方面強(qiáng)調(diào)了網(wǎng)絡(luò)服務(wù)提供者要履行注意義務(wù)，明確了數(shù)據(jù)和虛擬財(cái)產(chǎn)受法律保護(hù)。然而正是在這里，制度設(shè)計(jì)不得不面對(duì)某種兩難困境：注重個(gè)人信息和隱私的保護(hù)就有可能妨礙數(shù)據(jù)以及人工智能方面的產(chǎn)業(yè)發(fā)展，注重?cái)?shù)據(jù)驅(qū)動(dòng)的經(jīng)濟(jì)效益卻又容易侵害個(gè)人尊嚴(yán)和隱私，甚至引發(fā)信息安全問題。要兼顧這兩個(gè)方面，就需要認(rèn)真對(duì)待制度設(shè)計(jì)問題。值得深入探討的一種對(duì)策是設(shè)立數(shù)據(jù)托管機(jī)構(gòu)，對(duì)寄存?zhèn)€人數(shù)據(jù)的主體給予適當(dāng)?shù)姆e分獎(jiǎng)勵(lì)。數(shù)據(jù)托管機(jī)構(gòu)對(duì)數(shù)據(jù)進(jìn)行匿名化處理，企業(yè)可以在通過資質(zhì)審查后采取繳納使用費(fèi)的方式來獲得和處理數(shù)據(jù)，而數(shù)據(jù)主體也可以適當(dāng)分享數(shù)據(jù)產(chǎn)業(yè)的利益。在日本，已經(jīng)出現(xiàn)了設(shè)立復(fù)數(shù)信息銀行的構(gòu)想，個(gè)人可以像存款那樣把信息儲(chǔ)蓄到銀行，企業(yè)向信息銀行借貸個(gè)人信息。在中國(guó)，也許公共性質(zhì)的數(shù)據(jù)托管機(jī)構(gòu)更適合國(guó)情。

美國(guó)學(xué)者勞倫斯·萊斯格教授在1999年提出一個(gè)命題：Code is law,代碼就是法律。如今這樣的例子很多。比如，為了保護(hù)電視節(jié)目的著作權(quán)，規(guī)定所有的DVD制作按某個(gè)技術(shù)標(biāo)準(zhǔn)只能復(fù)制一次，不能再?gòu)?fù)制到其他DVD上，以防不法者盈利。但這樣也會(huì)妨害正常的學(xué)習(xí)和欣賞。無論如何，這種現(xiàn)象說明技術(shù)規(guī)格在相當(dāng)程度上取代了法律來決定人們的行為方式。目前上海實(shí)行的“一網(wǎng)管通”上有政府機(jī)關(guān)的幾乎所有服務(wù)項(xiàng)目，健康碼成為一個(gè)非常方便的應(yīng)用場(chǎng)景。然而有關(guān)信息收集、數(shù)據(jù)處理的權(quán)限和程序卻并沒有明確，所依據(jù)的法律根據(jù)也不清楚，并且可以瞬間改變。實(shí)際上，通過網(wǎng)絡(luò)平臺(tái)進(jìn)行數(shù)字化治理以及經(jīng)濟(jì)活動(dòng)，各種服務(wù)關(guān)系很難用法律來明確界定權(quán)利、義務(wù)關(guān)系。由此可見，人工智能的技術(shù)規(guī)格和數(shù)據(jù)的安全分級(jí)標(biāo)準(zhǔn)的制定工作已經(jīng)迫在眉睫，立法也必須及時(shí)跟上。在這種背景下，也許將出現(xiàn)“代碼與法律并行”的局面。中國(guó)存在“禮法并行”的文化傳統(tǒng)，還有現(xiàn)代的“法律與政策并行”實(shí)踐經(jīng)驗(yàn)，對(duì)于代碼與法律并行的治理方式也許不會(huì)產(chǎn)生抵觸。正是在這里，我們可以找到治理方式創(chuàng)新的契機(jī)或者切入點(diǎn)。

在人工智能時(shí)代，從法學(xué)角度來看，算法黑箱化是一個(gè)嚴(yán)重問題，因?yàn)闀?huì)導(dǎo)致責(zé)任政府和問責(zé)機(jī)制的動(dòng)搖。要解決這個(gè)問題，強(qiáng)調(diào)算法透明化、強(qiáng)調(diào)人類的介入和監(jiān)控固然必要，但很難收到預(yù)期效果。在這種情況下，以人工智能制衡人工智能、以代碼制衡代碼也許是更可行的對(duì)策。其中特別值得留意的是區(qū)塊鏈技術(shù)。它的本質(zhì)數(shù)據(jù)處理分散化、讓中樞的作用簡(jiǎn)約化，通過加密的哈希值實(shí)現(xiàn)個(gè)人隱私的黑箱化，在網(wǎng)絡(luò)共識(shí)中形成相互信任。在某種意義上，就是通過具體的智能合約來決定網(wǎng)絡(luò)中的權(quán)利義務(wù)，并可以制衡人工智能的程序算法。另外，在算法黑箱化的情況下，人工智能系統(tǒng)越復(fù)雜出現(xiàn)操作失誤的可能性就越大，問責(zé)也變得越困難。如果讓人工智能系統(tǒng)的開發(fā)者、制造者為算法失誤承擔(dān)無限的連帶責(zé)任，就會(huì)妨礙人工智能的發(fā)展。為了使這種責(zé)任有限化，為了確保智能合約的違約責(zé)任能夠依法追究，有必要承認(rèn)機(jī)器人的主體資格。實(shí)際上，只有當(dāng)機(jī)器人有主體資格時(shí)，以人工智能來制衡人工智能的構(gòu)想才能落到實(shí)處。

鑒于上述問題意識(shí)，上海交通大學(xué)中國(guó)法與社會(huì)研究院攜手人工智能研究院設(shè)立了人工智能治理與法律研究中心，旨在對(duì)人工智能時(shí)代的治理方式和法律制度設(shè)計(jì)進(jìn)行深入考察，從理論和實(shí)踐兩個(gè)方面提出中國(guó)方案。根據(jù)這一目標(biāo)，該中心將加強(qiáng)文理交叉融合的跨學(xué)科、跨國(guó)界合作，圍繞人工智能治理的原則、倫理、政策、技術(shù)標(biāo)準(zhǔn)以及法律法規(guī)積極開展研究和交流，在科技創(chuàng)新的背景下推動(dòng)制度創(chuàng)新，進(jìn)而探索與人工智能時(shí)代相適應(yīng)的法治模式。本書就是中心成員以及合作伙伴的初步研究成果的蒐集，以便倡導(dǎo)相關(guān)學(xué)術(shù)活動(dòng)、奠定今后更上層樓的基礎(chǔ)。該書分為四大部分，即“智能網(wǎng)絡(luò)化社會(huì)的法”“司法大數(shù)據(jù)與電子法院”“從數(shù)字經(jīng)濟(jì)到數(shù)據(jù)法律”以及“信息溝通技術(shù)與平臺(tái)治理”，由二十八章構(gòu)成。所有論文的作者簡(jiǎn)歷和出處一覽請(qǐng)參閱卷末附錄。具體的編輯事務(wù)是由上海交通大學(xué)法學(xué)院博士研究生林浩舟、陳肇新、衣俊霖、趙帥分擔(dān)的，特別是衣俊霖在梳理、核實(shí)、校對(duì)、調(diào)整格式等方面付出了很多辛勞，特此致謝。還要感激上海三聯(lián)出版社杜鵑編輯高度專業(yè)化的技術(shù)處理，我們的合作總是非常愉快并富有成效。

季衛(wèi)東

2020年8月28日