8月3日，在首屆全球數(shù)字經(jīng)濟(jì)大會(huì)的“人工智能產(chǎn)業(yè)治理論壇”上，首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》（以下簡(jiǎn)稱“宣言”）正式發(fā)布。
該宣言由北京智源人工智能研究院、瑞萊智慧聯(lián)合發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)、愛(ài)筆科技、第四范式、出門問(wèn)問(wèn)等人工智能行業(yè)的核心骨干企業(yè)、學(xué)術(shù)研究機(jī)構(gòu)共同參與。圍繞人工智能行業(yè)的規(guī)范與發(fā)展，宣言給出了具體的五項(xiàng)倡議。
當(dāng)前我國(guó)人工智能市場(chǎng)規(guī)模巨大。根據(jù)埃森哲公司的數(shù)據(jù)顯示，半數(shù)(49%)的中國(guó)人工智能企業(yè)，近三年的研發(fā)投入超過(guò)0.5億美元。IDC預(yù)測(cè)，到2023年中國(guó)人工智能市場(chǎng)規(guī)模將達(dá)到979億美元。
而在行業(yè)如火如荼發(fā)展的同時(shí)，治理與規(guī)范也需提上日程。
五項(xiàng)倡議
本次宣言包含五項(xiàng)倡議。
宣言首先強(qiáng)調(diào)，人工智能系統(tǒng)的設(shè)計(jì)、研發(fā)、實(shí)施和推廣應(yīng)符合可持續(xù)發(fā)展理念，以促進(jìn)社會(huì)安全和福祉為目標(biāo)，以尊重人類尊嚴(yán)和權(quán)益為前提。人工智能技術(shù)應(yīng)服務(wù)于人類社會(huì)，符合人類價(jià)值觀，保障不同種族、年齡、性別、信仰的群體共享人工智能發(fā)展成果，避免潛在的偏見(jiàn)和歧視損害特定人群的利益。
其次，在技術(shù)能力方面，宣言提出要最大限度確保人工智能系統(tǒng)安全可信，提高魯棒性及抗干擾性，提高系統(tǒng)抗攻擊和自我修復(fù)能力，確保人工智能系統(tǒng)安全可靠可控地工作。要增強(qiáng)算法透明性和可解釋性，并保持與人工智能各個(gè)利益相關(guān)方的緊密溝通，最大限度地確保人工智能系統(tǒng)可信。
同時(shí)，宣言認(rèn)為，人工智能技術(shù)、產(chǎn)品與服務(wù)應(yīng)保障各方權(quán)利和隱私，對(duì)用戶數(shù)據(jù)提供充分的安全保障。在收集和使用個(gè)人信息時(shí)應(yīng)落實(shí)合法正當(dāng)必要的原則，確保個(gè)人的知情、同意、選擇、撤銷等權(quán)利，并對(duì)用戶數(shù)據(jù)提供充分的安全保障。
在行業(yè)踐行方面，宣言也給出了具體實(shí)現(xiàn)路徑，倡導(dǎo)企業(yè)積極參與探索和構(gòu)建開(kāi)源開(kāi)放協(xié)作共享機(jī)制和平臺(tái)，建立深度合作伙伴關(guān)系，推動(dòng)良好的產(chǎn)業(yè)生態(tài)形成。
此外，宣言倡議企業(yè)采取成立人工智能治理委員會(huì)或工作組、設(shè)立倫理研究院崗位或通過(guò)外部技術(shù)支持等多種方式履行責(zé)任，從業(yè)者要具有高度社會(huì)責(zé)任感和自律意識(shí)，將人工智能倫理與治理原則、實(shí)踐貫穿于產(chǎn)品和服務(wù)的全生命周期。
作為論壇承辦方與宣言核心參與方，北京瑞萊智慧科技有限公司CEO田天表示，讓人工智能更好地服務(wù)于人類，是行業(yè)共同的目標(biāo)，當(dāng)整個(gè)社會(huì)重新審視技術(shù)的價(jià)值，科技從業(yè)者更應(yīng)感受到科技治理的緊迫性和使命感，應(yīng)當(dāng)積極主動(dòng)開(kāi)展自治工作，同時(shí)開(kāi)放共享，共舉科技擔(dān)當(dāng)，將科技力量打造成為人工智能創(chuàng)新治理體系中的核心支撐。
標(biāo)本兼治
作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會(huì)建設(shè)和經(jīng)濟(jì)發(fā)展帶來(lái)了重大而深遠(yuǎn)的影響。人工智能在純技術(shù)層面是價(jià)值中立的，但在實(shí)際應(yīng)用中，兼具創(chuàng)造性和破壞性。數(shù)據(jù)隱私、算法偏見(jiàn)、技術(shù)濫用等安全問(wèn)題正給社會(huì)公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來(lái)嚴(yán)峻挑戰(zhàn)。
“人工智能與信息系統(tǒng)在安全性上有著顯著區(qū)別。信息系統(tǒng)安全性問(wèn)題主要是軟件設(shè)計(jì)中的漏洞，容易被解決。而第二代人工智能的安全性問(wèn)題主要來(lái)自深度學(xué)習(xí)算法本身的不安全，更加本質(zhì)、更難克服。”中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、瑞萊智慧首席科學(xué)家張鈸在主旨演講中表示。
他指出，對(duì)人工智能進(jìn)行治理，防止它被誤用、制止它被濫用，一方面需要從法律法規(guī)、倫理規(guī)范、行業(yè)共識(shí)等不同層面去“治標(biāo)”，還應(yīng)從技術(shù)創(chuàng)新層面發(fā)力去“治本”。
就此，張鈸提出發(fā)展第三代人工智能技術(shù)，即融合了第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。
中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家曾毅認(rèn)為，人工智能要想實(shí)現(xiàn)可持續(xù)發(fā)展，需要在人工智能產(chǎn)品設(shè)計(jì)、研究、開(kāi)發(fā)、部署、使用全生命周期嵌入倫理與治理，并形成政府、學(xué)術(shù)界、企業(yè)、公民社會(huì)、媒體、用戶、服務(wù)提供商等多方主動(dòng)共治的良性生態(tài)。
曾毅指出，本次宣言的發(fā)布對(duì)企業(yè)具有重要參考作用并具初步的實(shí)操建議，將推動(dòng)政產(chǎn)學(xué)研各界加快形成多方共治體系，穩(wěn)步推進(jìn)構(gòu)建“負(fù)責(zé)任、可持續(xù)”的人工智能生態(tài)，賦能人類與生態(tài)的可持續(xù)發(fā)展。
