作者簡介：林維（1971.9—），法學博士，二級教授，博士生導師，中國社會科學院法學研究所研究員，國務院特殊津貼獲得者，并被評為第八屆全國十大杰出青年法學家�，F任西南政法大學黨委副書記、校長，《中國社會科學院大學學報》主編，兼任中國社會科學院大學互聯網法治研究中心主任、數字中國研究院院長。曾在聯合國前南斯拉夫國際刑事法庭學習，掛職最高人民法院刑一庭副庭長。 隨著自動駕駛汽車、ChatGPT、人形機器人等人工智能應用的爆發(fā)，人工智能對于現行法律的挑戰(zhàn)逐漸受到重視。早在2017年，國務院就印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，指出： 人工智能是影響面廣的顛覆性技術，可能帶來改變就業(yè)結構、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關系準則等問題。 近年來，人工智能在賦予人類新的文明契機的同時，也對現有的法律關系提出了一些破窗式挑戰(zhàn)，如何通過立法來規(guī)制人工智能的運用研發(fā)已經成為一項迫在眉睫的課題。 深度偽造與刑事治理。深度偽造依托于深度學習和大數據技術，能夠修改和自動生成圖像、文字、視頻等信息內容，極易為不法人員實施網絡違法犯罪活動提供可乘之機。深度偽造可能涉及的違法行為諸如侵害國家安全、社會秩序、他人合法權益等，都和我們刑法當中大量的罪名相呼應，也進一步帶來了刑事治理風險的擴張。例如，在以 點擊、瀏覽、轉發(fā)的次數 為入罪標準的犯罪認定中，現有司法解釋并未將算法系統(tǒng)的自動化點擊和轉發(fā)次數排除在外。同時，在深度偽造的過程當中，很多技術難題又是過去傳統(tǒng)的法律規(guī)范所不能加以覆蓋的，例如，由于算法黑箱的存在，依托大規(guī)模算法的深度偽造在定罪量刑要件的認定上存在解釋上的困難。如何順應這樣一種技術的變化來修改過去傳統(tǒng)的法律規(guī)則，是我們眼前必須要去解決的問題。尤其對現有的規(guī)范，在新技術背景下進行解釋進而賦予這些規(guī)范嶄新的生命力，更是我們必須要面對的問題。 自動駕駛和侵權責任。當前自動駕駛汽車大規(guī)模商業(yè)化落地進程正在緊鑼密鼓地進行中，今年6月份，工信部、公安部以及交通運輸部等部門聯合宣布國家首批智能網聯汽車準入和上路通行試點企業(yè)名單，標志著自動駕駛汽車的大規(guī)模上路、上市又更進了一步。對于傳統(tǒng)汽車來講，車輛由人類的駕駛員控制，發(fā)生事故自然也需要由人來承擔。自動駕駛取代人工駕駛以后，車輛在沒有人介入的情況下可以自主駕駛，這個過程中如何追究事故的責任成為難題。最近有觀點認為應當追究在整個流程包括程序開發(fā)的刑事責任。不過，如何平衡技術創(chuàng)新和社會秩序穩(wěn)定，是管理者在每個新技術的發(fā)展之初都不得不面臨的問題，所以這樣的問題在過去也可以找到參照的現象。盡管我們現在討論的是人工智能、無人駕駛，但是過去在飛機里也存在類似的無人駕駛，當飛機墜毀的時候我們是否需要探討追究飛機駕駛程序開發(fā)者的刑事責任？為什么我們現在一提到人工智能下的無人駕駛，我們甚至要特別延展地長鏈條地追究因果鏈條，并進而追究刑事責任，這是我們必須要思考的問題。我們是否對人工智能這樣的技術產生了一個深度的恐懼，而不得不做出一些過于戒備的預防？這也是我們需要討論的問題。類似性質的問題在人工智能其他領域的應用場景中也一定會遇見。 生成式人工智能與知識產權的問題。近年來，生成式人工智能獲得極大的關注和發(fā)展，給知識產權的保護帶來一系列的復雜問題。從輸入端來看，訓練數據來源的合法合規(guī)問題十分突出，生成式人工智能需要進行海量的閱讀和攝取，這些是否會觸及到海量數據的攝取過程當中，包括爬蟲技術本身是否涉及到著作權的問題。爬蟲技術無法識別抓取內容的著作權問題，也無法在抓取時逐一獲得著作權授權，這一問題現在已經成為生成式人工智能合規(guī)發(fā)展過程當中一個特別大的制約性難題，是否構成著作權合理的使用值得研究。我們過去傳統(tǒng)的著作權研究沒有遇到過這么海量而龐大的 合理使用的問題 。從輸出端來看，終端用戶、模型提供者的生成內容是否具有可版權性，人工智能服務的提供者生成的內容是否侵權，都是我們實踐當中所面臨的問題。今年廣州互聯網法院作出判決的全球AIGC侵權第一案，北京互聯網法院審理的國內首例 AI文生圖 著作權的侵權案以及前不久全國首例AI生成聲音人格權侵權案，這些案件都在生成式人工智能領域、知識產權以及我們傳統(tǒng)意義上的人身權等問題產生了緊密的關聯，值得我們進一步深思。 人工智能的司法應用。人工智能在司法領域獲得廣泛的應用，最高人民法院《關于規(guī)范和加強人工智能司法應用的意見》專門就人工智能司法的應用作出了部署，對于傳統(tǒng)的司法活動來講，它是法律和道德的統(tǒng)一，我們經常講要兼顧法理情，除了正確地適用司法規(guī)則以外，我們還要去要求法官具有同理心、正義感、同情心，需要對所面臨的法律現象具有正義的直覺判斷。而這些通常由人來彰顯的司法屬性是無法為機器所完全替代的。因此，我們要更加關注人工智能在司法中的應用問題。 生物的識別與數據安全。在我們日常生活中，人臉識別、指紋識別、虹膜掃描、語音識別等，已經無處不在，這些是我們身份驗證和訪問控制的強大工具，但是由此帶來的對數據安全的挑戰(zhàn)也不容忽視。對個人而言，收集和儲存生物識別數據可能引發(fā)大規(guī)模的隱私風險，這種具有高度敏感性的個人信息一旦遭到泄露或者濫用，尤其是大規(guī)模地泄露或者濫用，必然會侵害主體的隱私權益，甚至可能會導致更大的數據安全乃至國家安全的問題。尤其是對國家而言，數據是重要的戰(zhàn)略資源，數據安全又是國家安全的重要內容。因此，生物識別技術的大規(guī)模應用，我們對此要特別謹慎、特別警惕。 人工智能立法的現狀。當前我國人工智能立法呈現兩個特點：一是地方式。目前為止在國家層面，至今還沒有一部關于人工智能的專門立法。有關人工智能的立法具有明顯的地方式特征，強調地方政府可以根據自身的特點，結合自身發(fā)展的需求，先行先試，探索具有地方特色的人工智能治理規(guī)則，以此來積累更多的人工智能全國性立法經驗。比方說在自動駕駛領域，在推進人工智能產業(yè)發(fā)展方面，上海、深圳、廣州、重慶等都就自動駕駛道路測試、示范應用、交通法規(guī)等各種相繼頒布了很多的地方條例，但是缺乏國家層面的法規(guī)。二是場景式。當前我們還沒有一部關于人工智能的綜合性立法，相關立法仍然以地方規(guī)章制度以及國務院的行政規(guī)章為主，同時也主要是以具體的應用場景為抓手，關注不同應用場景下的人工智能引發(fā)的法律挑戰(zhàn)，比如說針對生成式人工智能出臺了《生成式人工智能服務管理暫行辦法》，針對自動駕駛汽車則出臺了《智能網聯汽車道路測試與示范應用管理規(guī)范（試行）》等；針對深度合成出臺了《互聯網信息服務深度合成管理規(guī)定》，針對人臉識別最高院發(fā)布了《關于審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規(guī)定》等，但是總體上缺乏一些綜合性、一般性的規(guī)定。 人工智能立法正當其時。隨著人工智能應用爆發(fā)式地增長，我們的立法現在已經明顯滯后，地方式立法、場景式立法已經遠遠無法滿足人工智能產業(yè)發(fā)展的需求。 我們必須要抓住人工智能立法的寶貴契機。推動人工智能統(tǒng)一立法的實現，避免頭痛醫(yī)頭、腳痛醫(yī)腳。當前各國都特別重視人工智能的立法，今年5月，歐盟理事會正式批準全球第一部《人工智能法案》，引領人工智能立法新浪潮。我國人工智能的統(tǒng)一立法趨勢也逐漸明顯，有關部門將人工智能法列入了立法的規(guī)劃，中國社科院等單位聯合起草的《中華人民共和國人工智能示范法（學者建議稿）》，為制定一部統(tǒng)一的人工智能法提供了很好的政策條件和寶貴經驗。 對于人工智能法的立法而言，我們需要注意的是不僅要在人工智能的規(guī)制、管制、立法和人工智能技術的創(chuàng)新當中維持好一種平衡，還需要留足動態(tài)的接口。一部人工智能法很難解決人工智能所提出的所有法律問題，一方面，我們需要對智能要素立法預留接口，2020年8月，美國安全和新興技術研究中心發(fā)布報告《人工智能三要素及對國家安全戰(zhàn)略的意義》指出： 可以用一句話來概括現代人工智能的復雜性，即：機器學習系統(tǒng)使用計算能力來執(zhí)行從數據中學習的算法。 這一定義表明，實現人工智能的關鍵在于算法、算力和數據三要素，人工智能立法需要與智能要素立法相互配合。另一方面，我們也需要為智能應用的立法預留接口，因為人工智能本身就是一個包羅萬象的概念，它所應用的場景包括醫(yī)療、教育、金融、物流、交通等各種場景，各種人工智能所應用的場景當中引發(fā)的法律問題并不一致，例如自動駕駛汽車關注事故責任問題，人臉識別關注數據合規(guī)和個人信息保護問題，生成式人工智能則面臨著作權保護問題等等。人工智能立法必須要考慮這些場景的特殊性。 未來，人工智能法的立法還需要根據人工智能快速迭代的發(fā)展來進行不斷調整。人工智能作為當前最受矚目的新興科技，我們必須要重視由此引發(fā)的法律挑戰(zhàn)，通過立法為人工智能的發(fā)展保駕護航，讓人工智能更好地造福人類社會，服務國家發(fā)展。
## 人民法院報：法律如何應對人工智能的發(fā)展? 隨著人工智能技術的不斷發(fā)展，它已經逐漸滲透到了我們的生活和工作中，為我們帶來了便利和效率。然而，人工智能的發(fā)展也帶來了一些法律問題和挑戰(zhàn)，例如人工智能的自主決策、數據隱私、算法透明度等問題。這些問題需要法律來進行規(guī)范和解決，以保護公民的權利和利益，維護社會的公平和正義。 法律應該如何應對人工智能的發(fā)展呢？首先，法律應該及時跟進人工智能的發(fā)展，制定相應的法律法規(guī)。這包括人工智能的自主決策、數據隱私、算法透明度等方面的法律法規(guī)，以規(guī)范人工智能的發(fā)展和應用。其次，法律應該注重保護公民的權利和利益。在人工智能的發(fā)展中，公民的權利和利益可能會受到侵犯，例如個人隱私的泄露、算法歧視等。法律應該加強對公民權利和利益的保護，例如通過數據保護法、反歧視法等法律法規(guī)來保護公民的權利和利益。 此外，法律還應該注重人工智能的倫理和道德問題。人工智能的發(fā)展可能會帶來一些倫理和道德問題，例如人工智能的自主性、責任歸屬、算法公正性等問題。法律應該加強對人工智能的倫理和道德問題的研究和規(guī)范，以確保人工智能的發(fā)展符合倫理和道德標準。 總之，法律應該及時跟進人工智能的發(fā)展，制定相應的法律法規(guī)，注重保護公民的權利和利益，以及加強對人工智能的倫理和道德問題的研究和規(guī)范，以應對人工智能的發(fā)展帶來的法律問題和挑戰(zhàn)。只有這樣，才能確保人工智能的發(fā)展符合法律和倫理道德的要求，為人類社會的發(fā)展和進步做出積極的貢獻。