全球首部人工智能（AI）領(lǐng)域全面監(jiān)管法規(guī)即將生效。
歐洲理事會(huì)官網(wǎng)顯示，當(dāng)?shù)貢r(shí)間5月21日，該機(jī)構(gòu)將正式批準(zhǔn)歐盟《人工智能法案》（下稱《AI法案》）。該法案基于風(fēng)險(xiǎn)分類，將AI系統(tǒng)劃分為四類，即不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和極低風(fēng)險(xiǎn)，并針對(duì)不同風(fēng)險(xiǎn)類別采取了相應(yīng)監(jiān)管策略。
隨后，《AI法案》將在歐盟官方公報(bào)上公布二十天后生效，法案內(nèi)容將分階段適用。具體來(lái)說(shuō)，法案中規(guī)定禁止的做法將在生效6個(gè)月后適用；通用型人工智能（GPAI）的相關(guān)義務(wù)和規(guī)則將在生效12個(gè)月后適用；法案生效24個(gè)月后，該法案完全適用，但一些高風(fēng)險(xiǎn)AI系統(tǒng)的規(guī)則將在生效后36個(gè)月適用。
在國(guó)際上，歐盟一直希望能在數(shù)字監(jiān)管領(lǐng)域搶跑。然而，隨著AI技術(shù)的發(fā)展突破日新月異，如何避免法規(guī)和技術(shù)的發(fā)展出現(xiàn)“錯(cuò)位”？在數(shù)字經(jīng)濟(jì)領(lǐng)域，歐盟近年來(lái)已經(jīng)推出了《通用數(shù)據(jù)保護(hù)條例》（GDPR）、《數(shù)字服務(wù)法案》、《數(shù)字市場(chǎng)法案》，這是否會(huì)給企業(yè)造成合規(guī)責(zé)任不清晰的問(wèn)題，又該如何應(yīng)對(duì)？
北京金杜律師事務(wù)所合伙人吳涵律師在網(wǎng)絡(luò)安全和數(shù)據(jù)合規(guī)領(lǐng)域有多年執(zhí)業(yè)經(jīng)驗(yàn)，他在接受第一財(cái)經(jīng)記者專訪時(shí)表示，在數(shù)字立法上，歐盟常以事前監(jiān)管為重點(diǎn)，構(gòu)建涵蓋事前、事中和事后的全鏈條監(jiān)管體系。
吳涵認(rèn)為，《AI法案》采用的“以風(fēng)險(xiǎn)為進(jìn)路”的管理方法可以看作一種初級(jí)靈活管理框架，在醫(yī)療、金融、自動(dòng)駕駛等其他領(lǐng)域立法也是常見的監(jiān)管方案。
“權(quán)宜之計(jì)”
第一財(cái)經(jīng)：《AI法案》以風(fēng)險(xiǎn)為導(dǎo)向進(jìn)行分級(jí)管理，怎么評(píng)價(jià)這種管理思路？歐盟內(nèi)部對(duì)此的立場(chǎng)是否統(tǒng)一？
吳涵：我理解以風(fēng)險(xiǎn)為導(dǎo)向的分級(jí)管理，通常是對(duì)于新生技術(shù)/應(yīng)用缺乏進(jìn)一步有效管理措施的“權(quán)宜之計(jì)”。在這一套機(jī)制下具體的風(fēng)險(xiǎn)分級(jí)標(biāo)準(zhǔn)和AI系統(tǒng)類目，也是其漫長(zhǎng)立法進(jìn)程中摩擦不斷的原因之一。
一方面，有歐盟專家痛批《AI法案》為“充斥著對(duì)行業(yè)游說(shuō)的讓步，對(duì)執(zhí)法和移民當(dāng)局最危險(xiǎn)的AI使用的豁免”。歐洲數(shù)據(jù)保護(hù)委員會(huì)（EDPB）和歐洲數(shù)據(jù)保護(hù)監(jiān)督員（EDPS）也曾指出，《AI法案》的高風(fēng)險(xiǎn)AI清單存在遺漏，沒有涵蓋使用AI確定保費(fèi)或者評(píng)估醫(yī)療方法適用于健康研究目的等場(chǎng)景。
另一方面，對(duì)于AI企業(yè)和具備AI發(fā)展戰(zhàn)略的歐盟成員國(guó)而言，尤其是法國(guó)、德國(guó)和意大利來(lái)說(shuō)，對(duì)于《AI法案》過(guò)度、提前監(jiān)管的態(tài)勢(shì)頗有微詞。在2023年底，法國(guó)、德國(guó)和意大利曾對(duì)《AI法案》提出明確的反對(duì)意見，包括反對(duì)并提出對(duì)于通用模型的兩層風(fēng)險(xiǎn)分級(jí)方法，即以是否為具備“系統(tǒng)性風(fēng)險(xiǎn)”的通用模型來(lái)設(shè)定合規(guī)義務(wù)的方法的替代方案。
由此可以看到，這一管理思路的弊病也許就在于“兩頭不討好”。這種具體立法的功能性危機(jī)，可能不僅是《AI法案》，而是人工智能時(shí)代乃至技術(shù)時(shí)代立法需要不斷直面的“技術(shù)局限”。
值得注意的是，這種局限性是所有對(duì)于新技術(shù)監(jiān)管的局限性，在AI領(lǐng)域尤其明顯，因?yàn)樗鼞?yīng)用過(guò)于廣泛，且對(duì)于對(duì)齊等問(wèn)題還未有更深入研究，但部分風(fēng)險(xiǎn)已經(jīng)發(fā)生，必須邊管理邊觀察補(bǔ)充。所以風(fēng)險(xiǎn)分類分級(jí)是在局限性中當(dāng)前既能管理風(fēng)險(xiǎn)又避免“一刀切”的領(lǐng)先思路。
當(dāng)然，參考GDPR實(shí)施至今的經(jīng)驗(yàn)教訓(xùn)，《AI法案》從對(duì)AI乃至AI“操縱”等涉及較重合規(guī)義務(wù)的高風(fēng)險(xiǎn)人工智能相關(guān)定義的語(yǔ)焉不詳，以及對(duì)應(yīng)義務(wù)的模糊表述可能也會(huì)損傷其法律確定性，導(dǎo)致新應(yīng)用、新技術(shù)企業(yè)在無(wú)法明確自身義務(wù)邊界的情況下面臨合規(guī)難題。即便《AI法案》自身已有一定機(jī)制來(lái)保證其靈活性，考慮到分階段生效的漫長(zhǎng)周期，落地執(zhí)行時(shí)的效能也還有待進(jìn)一步觀察。
第一財(cái)經(jīng)：《AI法案》是否有機(jī)制確保自身跟上AI技術(shù)和應(yīng)用場(chǎng)景的迅速迭代？
吳涵：《AI法案》在序言中提到，為了對(duì)AI系統(tǒng)采取有效、成比例的約束規(guī)則，應(yīng)當(dāng)遵循“以風(fēng)險(xiǎn)為進(jìn)路”的方法，即根據(jù)AI系統(tǒng)可能產(chǎn)生的風(fēng)險(xiǎn)范圍與風(fēng)險(xiǎn)程度，調(diào)整對(duì)AI系統(tǒng)的具體監(jiān)管規(guī)則。
結(jié)合《AI法案》現(xiàn)有規(guī)定，可以看出，歐盟在立法時(shí)的確作出了一定程度上的努力，以便法案規(guī)定的監(jiān)管規(guī)則具有相應(yīng)的靈活性，適應(yīng)AI技術(shù)的發(fā)展。
比如說(shuō)，充分考慮AI技術(shù)發(fā)展快、專業(yè)性強(qiáng)的特點(diǎn)，《AI法案》授權(quán)歐盟委員會(huì)每年度評(píng)估禁止使用的AI系統(tǒng)目錄是否需要修訂。同時(shí)，歐盟委員會(huì)還需在《AI法案》生效后的四年內(nèi)對(duì)法案本身例如高風(fēng)險(xiǎn)AI系統(tǒng)清單進(jìn)行評(píng)估和審查，并于此后每四年評(píng)估和審查一次，最終向歐洲議會(huì)和歐盟理事會(huì)報(bào)告。
同時(shí)，在通用AI模型方面，《AI法案》依據(jù)設(shè)置的每秒執(zhí)行的浮點(diǎn)運(yùn)算次數(shù)（FLOPs，被廣泛用來(lái)評(píng)估處理器或系統(tǒng)的計(jì)算能力）閾值，將通用AI模型進(jìn)一步區(qū)分為具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型。而FLOPs閾值的參數(shù)并非絕對(duì)不變的，而是隨著時(shí)間的推移、技術(shù)的革新而變化。
此外，歐盟還新設(shè)了人工智能辦公室，在促進(jìn)《AI法案》的統(tǒng)一適用外，還重點(diǎn)監(jiān)測(cè)由通用AI模型產(chǎn)生的不可預(yù)見的風(fēng)險(xiǎn)，從而為及時(shí)應(yīng)對(duì)新生風(fēng)險(xiǎn)留出一定的空間。
然而，考慮到《AI法案》還未正式生效，相關(guān)機(jī)制保障《AI法案》快速適應(yīng)AI技術(shù)和應(yīng)用場(chǎng)景迅速迭代的效果有待后續(xù)實(shí)踐的觀察。
企業(yè)合規(guī)方面是否會(huì)遇到“麻煩”
第一財(cái)經(jīng)：歐盟治理數(shù)字經(jīng)濟(jì)的法案很多，是否可能出現(xiàn)“意大利面碗”現(xiàn)象？比如，同時(shí)適用AI Act和GDPR但合規(guī)責(zé)任不清晰，這種情況是否多發(fā)？
吳涵：《AI法案》并不是空中樓閣，想要與正在制定中的以及既存的歐盟數(shù)字經(jīng)濟(jì)法案取得協(xié)調(diào)不會(huì)是易事，其中可能涉及規(guī)范重疊、空白和不一致性等諸多問(wèn)題。
舉例而言，歐盟《數(shù)字市場(chǎng)法案》的“守門人”相關(guān)制度條款均正好也已于2024年3月生效，歐盟委員會(huì)首次指定的六家“守門人”企業(yè)，Alphabet、亞馬遜、蘋果、字節(jié)跳動(dòng)、Meta和微軟需要盡快確保被指定的核心平臺(tái)服務(wù)符合“守門人”相關(guān)要求。不難發(fā)現(xiàn)，這些企業(yè)幾乎也都是AI市場(chǎng)的領(lǐng)頭羊，因此他們會(huì)如何處理歐盟數(shù)字《市場(chǎng)法案》與《AI法案》的交叉競(jìng)合會(huì)是很棘手但也很有意思的問(wèn)題。
例如，歐盟《數(shù)字市場(chǎng)法案》規(guī)定“守門人”應(yīng)根據(jù)企業(yè)用戶及其授權(quán)第三方的要求，免費(fèi)向其提供對(duì)于包括個(gè)人數(shù)據(jù)在內(nèi)的匯總和非匯總數(shù)據(jù)的有效、高質(zhì)量、持續(xù)和實(shí)時(shí)地訪問(wèn)和使用服務(wù)�？紤]到《AI法案》和歐盟《數(shù)字市場(chǎng)法案》對(duì)于數(shù)據(jù)集、數(shù)據(jù)庫(kù)等概念的定義并不一致，歐盟《數(shù)字市場(chǎng)法案》也并未就此為AI提供特殊規(guī)則。這意味著，守門人需要思考將用戶數(shù)據(jù)用于AI訓(xùn)練時(shí)，如何做好數(shù)據(jù)隔離等措施來(lái)保障自身對(duì)于訓(xùn)練數(shù)據(jù)集的權(quán)益，并同時(shí)滿足法律要求。
第一財(cái)經(jīng)：高風(fēng)險(xiǎn)AI系統(tǒng)的主要監(jiān)管制度下，《AI法案》指出了在AI供應(yīng)鏈的相關(guān)責(zé)任主體，但其中是否存在責(zé)任界定不清晰的問(wèn)題？
吳涵：首先從責(zé)任主體和行政責(zé)任來(lái)講，針對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的上下游供應(yīng)鏈，歐盟《AI法案》已初步構(gòu)建起圍繞AI系統(tǒng)提供者、分銷者、進(jìn)口者等相關(guān)主體的價(jià)值鏈，明確了提供者以外的利益相關(guān)主體對(duì)于高風(fēng)險(xiǎn)AI系統(tǒng)投放市嘗投入使用應(yīng)承擔(dān)的合規(guī)義務(wù)。同時(shí)，《AI法案》第99條也已就相關(guān)主體違反法案規(guī)定的行為，設(shè)置了最高1500萬(wàn)歐元或上一財(cái)政年度全球營(yíng)業(yè)總額3%的罰款。
然而，就包含高風(fēng)險(xiǎn)AI系統(tǒng)、通用AI系統(tǒng)在內(nèi)的AI系統(tǒng)所造成的實(shí)際損害責(zé)任分配機(jī)制而言，即AI系統(tǒng)價(jià)值鏈中的各方參與主體如何就損害分配，相應(yīng)的法律責(zé)任仍然處于模糊不清的狀態(tài)。
例如，某個(gè)企業(yè)通過(guò)某高風(fēng)險(xiǎn)AI系統(tǒng)向用戶提供服務(wù)，但這一系統(tǒng)是基于某通用AI模型提供者提供的AI模型生成的。如果該系統(tǒng)主要由提供者輸入數(shù)據(jù)進(jìn)行優(yōu)化，企業(yè)僅能輸入有限數(shù)量的數(shù)據(jù)對(duì)系統(tǒng)進(jìn)行訓(xùn)練，當(dāng)最終該AI系統(tǒng)生成的內(nèi)容對(duì)用戶造成了實(shí)際損害，該企業(yè)是否需就相關(guān)損害獨(dú)立承擔(dān)責(zé)任、企業(yè)是否能要求通用AI模型提供者共同承擔(dān)責(zé)任？如企業(yè)和通用AI模型提供者需共同對(duì)損害承擔(dān)法律責(zé)任，則雙方各自需在多大程度上承擔(dān)責(zé)任？考慮到通用AI模型復(fù)雜的上下游應(yīng)用關(guān)系，其中一方責(zé)任主體是否能在滿足特定情形時(shí)免除責(zé)任？如一方主體的責(zé)任有可能被豁免，需滿足何種條件方可觸發(fā)豁免？前述問(wèn)題均能體現(xiàn)，目前歐盟《AI法案》的責(zé)任分配機(jī)制存在一定的不確定性，更為具體的責(zé)任分配規(guī)則可能有待歐盟相關(guān)監(jiān)管部門在后續(xù)的個(gè)案執(zhí)法中予以體現(xiàn)。
此外，還有一種觀點(diǎn)認(rèn)為，《AI法案》對(duì)AI系統(tǒng)相關(guān)主體責(zé)任分配機(jī)制的留白是歐盟AI監(jiān)管立法的“有意為之”�？紤]到AI技術(shù)更迭、發(fā)展迅猛的特點(diǎn)，結(jié)合AI系統(tǒng)自主學(xué)習(xí)而可能引發(fā)的“算法黑箱”等問(wèn)題，在對(duì)未來(lái)AI系統(tǒng)的應(yīng)用場(chǎng)景、可預(yù)期作用目標(biāo)、可能給社會(huì)、公民造成的權(quán)益損害等均具備一定程度不確定性的現(xiàn)階段，保留責(zé)任分配機(jī)制的適當(dāng)模糊性可能有助于歐盟的AI監(jiān)管部門在個(gè)案中調(diào)整責(zé)任分配策略，始終實(shí)現(xiàn)維護(hù)個(gè)人健康、安全等基本權(quán)利的最終目標(biāo)，同時(shí)避免部分企業(yè)在明確清晰的責(zé)任分配框架下通過(guò)調(diào)整業(yè)務(wù)模式等方式轉(zhuǎn)移其本應(yīng)承擔(dān)的法律責(zé)任。
(本文來(lái)自第一財(cái)經(jīng))
