2022年8月30日，深圳市第七屆人民代表大會常務委員會第十一次會議正式通過了《深圳經濟特區(qū)人工智能產業(yè)促進條例》（簡稱《條例》，下同），這是我國首部人工智能產業(yè)專項立法。作為國內該領域的先行者，《條例》結合深圳人工智能產業(yè)發(fā)展現狀確立了一系列基礎規(guī)則，對于促進我國人工智能產業(yè)的未來發(fā)展具有典型示范意義。
聚焦AI
世界范圍內的人工智能產業(yè)立法
有關“人工智能”（Artificial Intelligence，AI）這一概念，最早可以追溯到1956年的達特茅斯會議。當時，麥卡錫（McCarthy）、明斯基（Minsky）等來自全美的10位年輕學者就“機器能否產生智能”等核心問題進行了為期兩個月的討論，此次會議也被視為人工智能發(fā)展史上的里程碑事件。時至60多年后的今天，人工智能已在醫(yī)療、交通、金融、農業(yè)、工業(yè)等多個行業(yè)中廣泛應用，并對傳統商業(yè)模式進行了一系列顛覆性創(chuàng)新。據德勤發(fā)布的《全球人工智能發(fā)展白皮書》預測，到2025年，世界人工智能市場規(guī)模將超過6萬億美元。普華永道發(fā)布的《全球AI報告：探索人工智能革命》也認為，到2030年，AI將為全球經濟貢獻高達15.7萬億美元。AI帶來最大經濟收益的國家將是中國（2030年GDP增長26%）和北美（14.5%），相當于10.7萬億美元，占全球經濟影響的近70%。
毫無疑問，人工智能技術正在重新定義制造業(yè)的發(fā)展方向，未來隨著新一代信息技術與制造業(yè)的深度融合，人工智能技術將成為世界各國產業(yè)競爭角逐的焦點。近年來，世界各大經濟體也陸續(xù)開始對人工智能進行系統性布局，如：法國政府早在2013年就發(fā)布了《法國機器人發(fā)展計劃》；2016年，在谷歌人工智能程序AlphaGo戰(zhàn)勝韓國圍棋名手李世石后，時任奧巴馬（Obama）政府發(fā)布了《為人工智能的未來做準備》、《國家人工智能研究與發(fā)展戰(zhàn)略計劃》和《人工智能、自動化與經濟》等系列報告，而人工智能技術也得到了各國政府、產業(yè)界以及學術界的普遍重視。包括中國在內，英國、德國、印度等國均在同一時期前后出臺了相關的產業(yè)發(fā)展規(guī)劃。
為了更好的規(guī)范和適應人工智能產業(yè)發(fā)展的新情況，各國關于人工智能的產業(yè)立法也在穩(wěn)步推進。2008年3月，韓國政府公布了《智能機器人開發(fā)及普及促進法》，并且宣布每五年制定一期“機器人產業(yè)基本計劃”，以系統化方式推動機器人產業(yè)育成政策；2017年底，美國國會也提出兩黨議案《人工智能未來法案》，以保持美國在人工智能應用和創(chuàng)新領域的全球競爭力；2021年，歐盟發(fā)布人工智能領域的首份綜合性法案《人工智能法案》，系統性規(guī)范投放和使用人工智能系統的實體。在我國，上海市也于今年9月初啟動了《上海市促進人工智能產業(yè)發(fā)展條例（草案）》征詢意見程序。顯然，一場規(guī)則領域的競爭已經在全球范圍展開。
“產規(guī)”一體
《條例》的基本內容與特點
1. 堅持市場導向與政策鼓勵
作為一項產業(yè)促進立法，深圳此次出臺的《條例》堅持了市場化導向與政策鼓勵并行的發(fā)展格局。一方面，《條例》明確了市人民政府及其辦事部門在產業(yè)發(fā)展中的基本職責，確立了工業(yè)和信息化部門主管，發(fā)展改革、教育、科技創(chuàng)新、公安、財政等部門協同促進的監(jiān)管格局；另一方面，《條例》也明確了人工智能產業(yè)發(fā)展中的市場化方向，在基礎研究上，《條例》第十七條明確提出了培育和建設投資主體多元化、管理制度現代化、運行機制市場化、用工方式靈活化的新型研發(fā)機構；在產業(yè)基礎設施建設上，《條例》也提出了完善以市場為主體的建設運營機制，為人工智能產業(yè)發(fā)展提供公共服務。總之，《條例》堅持市場化的基礎上明確了各方職責，并擬借助多方力量促進人工智能產業(yè)的發(fā)展和提升。
2. 兼顧產業(yè)發(fā)展與風險防范
在促進產業(yè)發(fā)展的同時強調風險防范是《條例》的第二項特點�；艚穑℉awking）曾表示：“研發(fā)人工智能將成為人類歷史上犯的最大錯誤。遺憾的是，這也可能是最后一個錯誤，因為人工智能的崛起可能是人類文明的終結。”人工智能自誕生以來，其應用是否會給經濟社會帶來風險始終是大眾關注的焦點。為此，《條例》不僅在規(guī)范原則中明確了“安全可控”的發(fā)展思路，亦在總則部分強調了要在遵循有關法律法規(guī)和倫理安全規(guī)范的前提下，推動人工智能產品和服務的普及應用，在一定程度上為人工智能技術探索確立了法律邊界。此外，《條例》還創(chuàng)新性地提出市人民政府應當設立人工智能倫理委員會，并在研究制定人工智能領域的倫理安全規(guī)范、建立健全人工智能倫理安全規(guī)范管理制度以及發(fā)布人工智能倫理安全實踐指南等方面發(fā)揮作用。
3. 踐行多元共治的規(guī)范框架
相比傳統的產業(yè)，人工智能以其數字化和智能化為代表，但這種行業(yè)壁壘的強化也帶了產業(yè)治理的難題，為此《條例》提出了多元共治的發(fā)展目標，明確了在“政府規(guī)范、行業(yè)自律、企業(yè)自治、社會監(jiān)督”基本格局的基礎上，推動形成具有廣泛共識的人工智能治理框架和標準規(guī)范，促進產業(yè)多元主體協同共治。不僅如此，《條例》還較為詳細地界定了市人民政府及其有關部門、行業(yè)組織、人工智能企業(yè)以及其他單位和個人在產業(yè)治理中的功能，確立的基本的責任分配機制。值得一提的是，《條例》七十一條還強調了人工智能企業(yè)對公眾的算法說明義務，對于公共決策領域以及涉及公共利益的商業(yè)領域的算法，要求相關組織或者個人進行必要的算法說明。
未竟之題
可能的規(guī)則進路
從行業(yè)發(fā)展來看，此次深圳市推出的《條例》無疑是一次有益的探索，該立法在確定監(jiān)管主體、治理框架以及扶持政策等方面均具有典型的示范價值。但普遍來看，《條例》僅僅只是一個階段性的立法成果，諸多重大爭議尚未在《條例》中得以體現，發(fā)展人工智能產業(yè)仍然面臨著規(guī)則供給的不足。
1. 基礎數據的利益分配機制
人工智能產業(yè)的發(fā)展離不開基礎數據支撐，系統的學習和自我優(yōu)化均需以海量數據投喂為前提，但遺憾的是，目前關于基礎數據的利益分配機制如何展開尚處于爭議之中。主流觀點認為，與個人身份相關的底層數據，權利歸用戶本人所有；而經過匿名化加工后獲得的數據集，則由企業(yè)享有相關的利益�！稐l例》第三十三條提出，要推動人工智能領域數據的流通利用，促進數據要素資源化、資產化、資本化發(fā)展。并且強調了個人數據應當進行去標識化處理。但值得注意的是，將脫敏后的數據利益歸于平臺公司固然有利于大數據產業(yè)發(fā)展，但這種利益分配格局卻也存在不合理甚至不公平之處，并非是世界范圍內的普遍做法。實踐中已經出現了數字稅（Digital Service Tax）、數據信托（Data Trusts）、數據工會（Data Labor Union）等治理方式。我國也有學者提出，考慮到我國的特殊情況，可采用由國有控股大數據交易所將其收益以集體轉移支付的方式反哺社會，從而合理分配平臺公司與用戶之間的數據利益。產權清晰是行業(yè)發(fā)展的前提，如何確定公平合理的基礎數據利益分配機制仍然有待于規(guī)則層面的進一步取舍。
2. 應用場景的邊界限制
隨著人工智能應用加速落地，在產品檢驗、汽車駕駛、疾病診斷、城市管理等眾多領域已經出現了人工智能的身影，但與此同時，人工智能引發(fā)的倫理道德、隱私保護、社會治理等問題也開始顯現。特斯拉的創(chuàng)始人馬斯克（Musk）就曾表示：“人工智能是關系人類文明存亡的最大威脅，這是汽車事故、飛機墜毀、濫用藥物或劣質食品都比不了的威脅。”由于法律規(guī)制具有一定的滯后效應，無法對人工智能進行有效監(jiān)管，如何在鼓勵創(chuàng)新之余為人工智能劃定應用邊界始終是爭議的焦點。2014年，全國首個運用人工智能技術的法律應用系統在天津正式投入使用，此舉引發(fā)了不少關于司法公正的爭議。中國社科院孫萍研究員針對當下外賣平臺用工的一項研究也發(fā)現：平臺公司通過算法來支配勞動者的勞動行為，他們的身體和勞作都被嵌入到極不穩(wěn)定的數字互聯和算法分配當中，這也進一步加劇了他們自身的不穩(wěn)定性。人工智的應用具有雙面性，在涉及價值判斷以及人身管理的領域是否應當有所限制，這需要仔細衡量。為此，《條例》第七十二條提出要對人工智能不利影響進行倫理安全規(guī)范審查和風險評估，但這一評估程序如何落地卻仍然需要進一步明確和細化。
3. 人工智能的責任承擔
2013年，美國學者約翰弗蘭克韋弗出版了《機器人是人嗎》一書，該書提出了人工智能時代一個非常重要的命題，當人工智能的獨立決策達到相當高度時，誰該對其行為負責？是否需要賦予人工智能有限的法律人格？從此次《條例》的內容來看，其基本沿用了當下責任體系，由從事人工智能研究和應用的組織或者個人來承擔相應的賠償責任。
在技術發(fā)展發(fā)展初期，要求人工智能服務提供者對此負責無可厚非，但當人工智能的自主意識和行動能力達到一定的高度時，是否效仿公司制度賦予其獨立的法律人格來承擔責任卻成為一個不得不面對的問題。理論界已經提出了強制保險、賠償基金等思路，人工智能的責任承擔關系到整個產業(yè)發(fā)展格局和未來，需要進行系統性考量。
本文作者
李歡
華東政法大學傳播學院講師，法學博士
本文作者
李翰文
中國（深圳）綜合開發(fā)研究院 城市和鄉(xiāng)村發(fā)展研究中心項目研究員，管理學碩士
