AIGC擁有光明的未來已經(jīng)成為共識(shí)，但同時(shí)如何管理其潛在的風(fēng)險(xiǎn)？
10月29日，博鰲經(jīng)安論壇第二屆大會(huì)“AIGC時(shí)代的可持續(xù)發(fā)展與風(fēng)險(xiǎn)管理”分論壇在湖南長沙舉行，來自政商學(xué)企各界的專家就AIGC話題進(jìn)行討論交流，為AIGC的發(fā)展提供“博鰲方案”。
今年上半年中國股市低迷，但AIGC概念股卻逆勢(shì)上漲。國內(nèi)AIGC技術(shù)迭代速度很快，各個(gè)廠商快速發(fā)布相關(guān)模型和應(yīng)用。伴隨著技術(shù)本身的發(fā)展，行業(yè)應(yīng)用的速度也在加快。野村綜研（上海）咨詢有限公司副合伙人陸成認(rèn)為，得益于AIGC本身的模型優(yōu)化，也得益于企業(yè)應(yīng)用場景的逐步豐富，更得益于提供AIGC服務(wù)的專業(yè)公司基于大模型創(chuàng)造出的新價(jià)值，未來十年將會(huì)是AIGC爆發(fā)式增長的時(shí)代，平均的增長率超過30%。大語言模型和AIGC可以更充分地對(duì)個(gè)人和企業(yè)賦能，也可以減輕各領(lǐng)域的業(yè)務(wù)負(fù)擔(dān)，因而可以大幅度提高企業(yè)和行政運(yùn)行的效率。但AIGC在給國家和社會(huì)帶來各種便利的同時(shí)，也帶來了令人不安的風(fēng)險(xiǎn)甚至威脅。
上海交通大學(xué)中國法與社會(huì)研究院院長、Tech4SDG聯(lián)盟副主席季衛(wèi)東在致辭中指出，防止虛假信息蔓延和大語言模型的濫用，是AIGC時(shí)代法律的一項(xiàng)重要任務(wù)。他還認(rèn)為，如何創(chuàng)建人機(jī)共存秩序，并確保社會(huì)分配正義，是AIGC時(shí)代立法、執(zhí)法以及司法的重要課題。
在圓桌對(duì)話環(huán)節(jié)，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授、上海交通大學(xué)產(chǎn)業(yè)經(jīng)濟(jì)研究中心主任史占中表示，面對(duì)AIGC浪潮，勞動(dòng)技能要求較低、從事重復(fù)性勞動(dòng)的崗位受沖擊較大，而那些具有高技能的、從事創(chuàng)新型崗位的群體則會(huì)收入提高。一部分人下崗失業(yè)，一部分人收益快速提升，收入差距的拉大或可能帶來社會(huì)問題。
此外，季衛(wèi)東特別提及，當(dāng)人工智能開始進(jìn)行自我塑造，進(jìn)而形成一套自動(dòng)化的生態(tài)人工智能系統(tǒng)時(shí)，必然會(huì)在社會(huì)中引起大家對(duì)AIGC特別是通用人工智能失控的恐慌，相關(guān)法律制度建設(shè)還必須把這種危機(jī)管理納入視野之中。
國家開發(fā)投資集團(tuán)特級(jí)專家趙建強(qiáng)博士指出，我國應(yīng)對(duì)AIGC可能帶來的風(fēng)險(xiǎn)及時(shí)反應(yīng)。此前，我國在“一帶一路”峰會(huì)上向各國發(fā)出了全球人工智能倡議。而近年來，我國結(jié)合實(shí)際，陸續(xù)出臺(tái)相關(guān)制度來保證AIGC技術(shù)的良性發(fā)展。
此前，工信部把人工智能、元宇宙以及工業(yè)互聯(lián)網(wǎng)作為數(shù)字經(jīng)濟(jì)發(fā)展的三駕馬車。國家數(shù)據(jù)局已正式掛牌；而世界互聯(lián)網(wǎng)大會(huì)國際組織成立了數(shù)據(jù)工作組。歐盟提出了數(shù)字主權(quán)概念，中國提出了數(shù)據(jù)區(qū)塊鏈概念，國家權(quán)力正在重新尋找本土化、區(qū)塊化的立足點(diǎn)。在這里，存在著中國與其他國家進(jìn)行深度對(duì)話的廣闊空間，存在著與國際制度接軌的重要契機(jī)。
如何在亞太地區(qū)就人工智能治理方面展開合作，也是本次分論壇熱議的話題。有嘉賓指出，基于數(shù)據(jù)資產(chǎn)的全球合作難度較大，基于模型層面的全球合作還是較有優(yōu)勢(shì)，例如到更成本更低的地方建算力中心等。
新的生產(chǎn)范式為AI應(yīng)用帶來巨大潛能，但也帶來挑戰(zhàn)，例如算法、數(shù)據(jù)、應(yīng)用等層面的風(fēng)險(xiǎn)。就企業(yè)如何建立防范AI風(fēng)險(xiǎn)的安全機(jī)制，商湯科技亞太區(qū)副總裁兼戰(zhàn)略執(zhí)行負(fù)責(zé)人鄒春慧表示，商湯科技已率先在業(yè)內(nèi)成立第一家AI倫理委員會(huì)，并把AI倫理作為公司的重要戰(zhàn)略目標(biāo)，致力于可信的AI體系化建設(shè)，積極參與相應(yīng)標(biāo)準(zhǔn)、監(jiān)管規(guī)則的制定。
