集微網消息，據彭博社報道，OpenAI首席執(zhí)行官薩姆奧特曼（Sam Altman）5月警告美國國會人工智能會帶來危險。科技公司希望以自己的方式推出人工智能，強調他們需要政客的幫助。
但不久后，奧特曼表示，他將盡力遵守歐盟規(guī)則，但如果這是非常困難的，他的公司將在歐盟內“停止運營”。這番言論促使內部市場專員蒂埃里布雷頓（Thierry Breton）指責奧特曼“試圖勒索”。奧特曼第二天澄清了他的評論，當CEO和專員上周親自會面時，他們同意在監(jiān)管問題上保持一致。
人工智能的發(fā)展正在蓬勃發(fā)展。僅在2023年前四個月，該行業(yè)就籌集了超過10億美元的風險投資資金，從牙刷到無人機，各種系統(tǒng)都已經投入使用。事態(tài)發(fā)展的程度和速度將在很大程度上取決于政府是否介入。
大型科技公司表示他們希望受到監(jiān)管。現(xiàn)實情況要復雜得多，在美國，谷歌、微軟、IBM和OpenAI已經要求議員監(jiān)督人工智能，他們說這對于保證安全和與中國的競爭力是必要的。與此同時，歐盟最近批準了一項立法草案，該草案將為生成性人工智能設置護欄，這些公司的游說者正在反對他們認為會不必要地限制科技最熱門的新領域的措施。
美歐的科技規(guī)則差異很大。五年多來，歐盟已經制定了全面的數(shù)據保護法，并且正在實施嚴格的競爭和內容審核準則。然而，在美國，二十多年來幾乎沒有任何監(jiān)管。據參與歐盟即將出臺的人工智能法案（AI Act）的多名官員稱，呼吁內部監(jiān)督一直是大型科技公司的一種方式，因為它將歐洲立法引向了更有利的方向。
科技公司知道他們不能忽視歐盟，特別是在其社交媒體和數(shù)據保護規(guī)則已成為全球標準的情況下。歐盟的《人工智能法案》可能在未來兩到三年內實施，這將是西方政府監(jiān)管人工智能的首次嘗試，并得到嚴厲處罰的支持。如果公司違反該法案，歐盟可能會處以相當于公司年營業(yè)額6%的罰款，并禁止產品在歐盟運營，據估計，歐盟占全球人工智能市場的20%至25%，預計10年內全球人工智能市場的價值將超過1.3萬億美元。
這使該行業(yè)處于微妙的境地。智庫DataEthics的聯(lián)合創(chuàng)始人Gry Hasselbalch表示，如果該法案的一個版本成為法律，最大的人工智能提供商“將需要從根本上改變他們的透明度，以及他們處理風險和部署模型的方式。”
風險業(yè)務
與其它科技領域相比，人工智能方面的立法進展緩慢。2021年，歐盟委員會（European Commission）發(fā)布了其人工智能法案（AI Act）的初稿，啟動了一個涉及三個政府機構、27個國家、數(shù)十名游說者和一輪又一輪談判的進程，這些談判可能會在今年晚些時候結束。該提案采取了一種“基于風險”的判別方法，在極端情況下禁止人工智能用于類似中國那樣的社交評分系統(tǒng)。簡而言之，該提案禁止絕大多數(shù)人工智能在沒有監(jiān)督的情況下運行。
草案的大部分內容都集中在“高風險”事件的判定規(guī)則上。例如，發(fā)布人工智能系統(tǒng)來預測犯罪或對工作申請進行分類的公司將被限制只能使用高質量的數(shù)據，并被要求進行風險評估。除此之外，草案還規(guī)定了深度造假和聊天機器人的透明度：當人們與人工智能系統(tǒng)對話時，他們必須被告知，生成或操縱的內容需要被標記。該文本沒有提及生成式人工智能，這是一種機器學習算法的總括類別，能夠創(chuàng)建新的圖像、視頻、文本和代碼，但尚未爆發(fā)。
大型科技公司歡迎這種做法。他們還試圖模糊邊界。雖然草案稱開發(fā)商應對其系統(tǒng)的使用方式負責，但公司及其貿易團體認為用戶也應該承擔責任。微軟在一份立場文件中表示，由于生成式人工智能的潛力使公司無法“預測全方位的部署場景及其相關風險”，因此“關注部署者對人工智能系統(tǒng)的實際使用”尤為重要”。在閉門會議上，科技公司的官員們更加堅信人工智能本身只是一種反映用戶意圖的工具。
更重要的是，根據提交給議員的修正案草案，IBM希望確保“通用人工智能”一個更廣泛的類別，包括圖像和語音識別、音頻和視頻生成、模式檢測、問題回答和翻譯被排除在監(jiān)管之外，或者在微軟的情況下，將由客戶處理監(jiān)管檢查。
許多公司都堅持這一立常IBM歐盟事務負責人Jean-Marc Leclerc在給彭博社的一份聲明中寫道，“我們敦促繼續(xù)采用基于風險的方法，而不是試圖將技術作為一個整體來控制。”
一些最強大的人工智能系統(tǒng)可以在很大程度上避免監(jiān)督的想法引起了行業(yè)觀察人士的警惕。最初由埃隆馬斯克（Elon Musk）部分資助的非營利組織“未來生命”（Future of Life）當時寫道，“未來的人工智能系統(tǒng)將比GPT-3更通用”，需要明確監(jiān)管。“未來生命”的CEO馬克斯泰格馬克（Max Tegmark）寫道，“該提案應該要求對它們的所有預期用途（以及可預見的誤用）進行完整的風險評估，而不是“根據有限的既定目的對它們進行分類”。
歐盟考慮監(jiān)管所有通用人工智能
看起來大型科技公司似乎會得到它想要的東西，各國甚至一度考慮將通用人工智能完全排除在文本之外，直到2022年春天，政治家們開始擔心他們低估了它的風險。在法國的敦促下，歐盟成員國開始考慮監(jiān)管所有通用人工智能。
這時，此前一直置身于歐洲立法程序之外的OpenAI決定加入進來。2022年6月，該公司公共政策負責人在歐盟會見了官員。不久之后，該公司向委員會和一些國家代表發(fā)送了一份文件，首先由《時代》雜志報道，稱他們“擔心”一些提議“可能會無意中導致我們所有的通用人工智能系統(tǒng)被默認捕獲”。
然而，歐盟國家確實繼續(xù)要求所有通用人工智能遵守一些高風險要求，例如風險評估。此類立法草案于2022年12月獲得批準，就在ChatGPT發(fā)布一周后。
被聊天機器人的能力和前所未有的受歡迎程度所震驚，歐洲議會成員在他們的下一份草案中采取了更強硬的態(tài)度。兩周前批準的最新版本要求OpenAI等“基礎模型”的開發(fā)者必須總結用于訓練大型語言模型的版權材料，評估該系統(tǒng)可能對民主和環(huán)境構成的風險，并設計無法生成非法內容的產品。
《人工智能法案》的兩位主要作者之一Dragos Tudorache解釋說：“歸根結底，我們對生成性人工智能模型的要求是一點透明度。”如果“將算法暴露在不好的事情中”存在危險，那么開發(fā)人員必須努力為此提供保護。
雖然Meta、蘋果和亞馬遜基本上保持沉默，但其他主要開發(fā)商正在反擊。谷歌在向議員發(fā)表評論時表示，議會的控制將有效地將通用人工智能視為高風險，而事實并非如此。公司還抗議說，新規(guī)定可能會干擾現(xiàn)有的規(guī)定，一些公司表示，他們已經實施了自己的控制措施。行業(yè)組織 CCIA 的博尼法斯德尚普里斯 (Boniface de Champris) 表示：“僅是聲譽受損的可能性就足以促使公司大規(guī)模投資于用戶安全。”
科技公司要求監(jiān)管人工智能，但認為歐盟過度監(jiān)管
隨著公眾實時目睹生成性人工智能的缺陷，科技公司越來越多地要求監(jiān)督人工智能。據官員稱，他們更愿意談判。在OpenAI的Altman和谷歌的Sundar Pichai于5月底開始與歐盟監(jiān)管機構會面后，競爭主管瑪格麗特維斯塔格(Margrethe Vestager) 承認，大型科技公司正在接受透明度和風險要求。
Tudorache說，這種方法“非常務實”，并補充說，反對監(jiān)管的開發(fā)商將“落在歷史的錯誤一端，并將拿自己的商業(yè)模式冒險”。
一些批評者還認為，盡早遵守監(jiān)管可能是大公司確保市場主導地位的一種方式。柏林赫蒂學院(Hertie School)倫理與技術教授喬安娜布賴森(Joanna Bryson) 解釋說：“如果政府現(xiàn)在介入，那么他們就可以鞏固自己的領先地位，并找出誰正在接近他們。”
如果你問科技公司，他們會告訴你他們并不反對監(jiān)管，他們只是不喜歡提供的一些建議。“我們從一開始就接受微軟將在技術堆棧的多個層面受到監(jiān)管；我們并沒有逃避監(jiān)管。”微軟發(fā)言人寫道，表達了許多開發(fā)者的觀點。該公司還表示支持成立一個新的人工智能監(jiān)督機構，以確保安全標準并頒發(fā)許可證。
與此同時，科技公司和貿易團體正在繼續(xù)反對議會和成員國對《人工智能法案》的修改。開發(fā)商已要求提供更多有關實際監(jiān)管的細節(jié)；比如說，OpenAI將如何評估ChatGPT對民主和環(huán)境的影響。在某些情況下，他們接受某些參數(shù)，同時挑戰(zhàn)其他參數(shù)。
根據彭博看到的評論，OpenAI在4月份寫信給議員，表達了對監(jiān)控和測試框架以及通用人工智能新標準的支持。谷歌最近站出來支持美國的“輻射-中樞”監(jiān)管模式，要求將監(jiān)管分散到許多不同的機構，而不是單一的集中機構。谷歌支持風險評估，但繼續(xù)支持基于風險的方法。谷歌沒有回應置評請求。
然而，隨著人工智能的賺錢潛力變得更加清晰，一些政治家開始接受行業(yè)的觀點。法國前數(shù)字部長、現(xiàn)任技術顧問塞德里克奧上個月警告說，監(jiān)管過度可能會損害歐洲的競爭力。他得到了法國總統(tǒng)馬克龍的支持，馬克龍在議會投票后的法國科技會議上表示，歐盟需要注意不要過度監(jiān)管人工智能。
在《人工智能法案》最終投票之前，尚不清楚歐盟將在多大程度上實際決定對該技術進行監(jiān)管。但即使談判代表盡快采取行動，公司也需要在2025年起遵守該法案。
（校對/劉昕煒）
