2024全球開發(fā)者先鋒大會（2024 GDC）于3月23日至24日在上海舉行。大會的重磅活動——“大模型前沿論壇”于3月24日上午在上海徐匯西岸舉行。上海交通大學(xué)文科資深教授兼校務(wù)委員會委員、中國法與社會研究院院長、中國計算機學(xué)會（CCF）計算法學(xué)分會會長、人工智能治理與法律研究中心主任季衛(wèi)東出席論壇，并作為嘉賓參與了對話環(huán)節(jié)。
作為論壇第二場嘉賓對話環(huán)節(jié)，季衛(wèi)東教授與復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授張奇，阿里云通義實驗室首席安全官張榮，復(fù)旦大學(xué)研究員、博士生導(dǎo)師馬興軍等多位專家在上海人工智能實驗室治理研究中心副主任研究員王迎春的主持下，就“大模型治理：技術(shù)、生態(tài)與未來”的話題展開了研討。
在嘉賓對話中，主持人王迎春首先就大模型時代的安全問題進行了提問。季衛(wèi)東教授對此談到“如何應(yīng)對大模型時代安全與發(fā)展之間的張力”是大模型治理與人工智能立法所亟需解決的問題。雖然自2023年12月12日英國司法部門允許法官使用AI撰寫裁決后，人們似乎慢慢接受了大模型與人工智能的廣泛應(yīng)用，但其安全保障一直是社會各界所熱議的話題。在2024年3月13日，歐盟議會雖然投票通過了《人工智能法案》，為人工智能系統(tǒng)開發(fā)者制定了全面規(guī)則，以此試圖保障人工智能的安全。但對此已有150多個歐洲科技企業(yè)聯(lián)名發(fā)布了公開抵制信，認為其會拖累歐洲的人工智能發(fā)展。據(jù)相關(guān)研究表明，歐盟《人工智能法案》的實施將會吞噬人工智能投資的17%，嚴重阻礙歐盟的數(shù)字化進程。此外，人工智能的安全雖然中文統(tǒng)稱為“安全”，但英文里的“safety”和“security”是有嚴格區(qū)分的。這兩詞也經(jīng)常同時出現(xiàn)在各國發(fā)布的人工智能倫理原則之中?！皊afety”往往強調(diào)的是一個系統(tǒng)、組織或個人按照自己的機制正常運轉(zhuǎn)的“穩(wěn)定狀態(tài)”，其價值目標(biāo)在于系統(tǒng)自身的穩(wěn)定運行。因此，safety所強調(diào)的安全性可以說是大模型性能的根基之一，因為是否能維持系統(tǒng)自身穩(wěn)定運行也是大模型性能評估的重要指標(biāo)之一。而“security”所強調(diào)的是免受來自外部“蓄意或惡意”的傷害，采取必要的措施防止這樣的傷害發(fā)生。所以，“公共安全”才會用public security來表示。這意味著“security”的安全是需要了解外部可能存在的潛在威脅，并采取相應(yīng)的應(yīng)對與防范措施來保障的。
在其他幾位對話專家就人工智能的安全問題發(fā)表觀點后，主持人王迎春又對“如何協(xié)調(diào)不同國家和地區(qū)在人工智能治理方面的差異，促進人工智能的國際合作”進行了提問。季衛(wèi)東教授對此表示“注重溝通與程序，強調(diào)法律多元主義”是推動人工智能多元共治的重要路徑。以人工智能倫理與立法為例，若將人工智能倫理視為一種普適性的實體性道德規(guī)則，將人工智能立法的目標(biāo)設(shè)為制定一套全球通用、全場景適用的實體法，那么人工智能倫理與人工智能立法就不可能實現(xiàn)國際合作，人工智能治理的多元性也就無法得到體現(xiàn)。因此，有必要強調(diào)多元主體針對人工智能治理多元價值的溝通過程，區(qū)分具有地域、場景和國別差異性的人工智能道德，與針對此種差異性進行溝通協(xié)商的人工智能倫理，將人工智能倫理理解為一種針對用于評價決策合理性的道德規(guī)范出現(xiàn)不確定性時進行意義處理的程序性規(guī)則。此外，對于人工智能的可解釋性問題，溝通與程序同樣是一個有意思的切入點。例如近期在Nature出版社旗下人文社科類期刊Humanities and Social Sciences Communications上發(fā)表了一篇題為“理解可解釋人工智能的困境：儀式對話框架的建議”（Understanding the dilemma of explainable artificial intelligence: a proposal for a ritual dialog framework）的研究，該研究從人機交互視角來把握與解釋用戶對人工智能的“信任”問題，這種信任受到用戶與人工智能模型創(chuàng)造者之間對話的影響。因此，該項研究認為，提升XAI的用戶信任需要一個儀式性對話框架（RDF）。儀式性對話框架的重要性在于，不論解釋的性質(zhì)如何，理解應(yīng)當(dāng)是目的論的。儀式性對話框架基于人工智能模型開發(fā)的社會環(huán)境，意識到人工智能系統(tǒng)的可信度常常基于社會對技術(shù)、權(quán)威和共享經(jīng)歷的集體評估。因此，儀式性對話框架不僅是一種溝通策略，而且標(biāo)志著一種獨特的“儀式”。儀式性對話框架在這里扮演了一種儀式性的規(guī)范，作為理解到信任之間的中介，幫助實現(xiàn)用戶與可解釋人工智能及其制造者之間的信任。