人工智能產(chǎn)業(yè)化進(jìn)程已經(jīng)從點(diǎn)到面，滲透到更多行業(yè)特定場景。如何更好地推動人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)穩(wěn)健發(fā)展，形成更好的創(chuàng)新體系和產(chǎn)業(yè)生態(tài)，需要全行業(yè)共同努力。日前，由北京智源人工智能研究院和瑞萊智慧共同發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)、愛筆科技、第四范式、出門問問等在內(nèi)數(shù)十家研究機(jī)構(gòu)與創(chuàng)新企業(yè)聯(lián)合參與的首個《人工智能（AI）產(chǎn)業(yè)擔(dān)當(dāng)宣言》（以下簡稱《宣言》）正式發(fā)布，《宣言》強(qiáng)調(diào)中國科技企業(yè)在推動人工智能自律自治穩(wěn)健發(fā)展中應(yīng)積極承擔(dān)的責(zé)任。
AI企業(yè)要自律自治
“讓人工智能更好地服務(wù)于人類，是產(chǎn)業(yè)共同的目標(biāo)，作為人工智能技術(shù)發(fā)展的中堅(jiān)力量，人工智能企業(yè)理應(yīng)成為安全治理的踐行者。但科技企業(yè)到底應(yīng)該如何去做，業(yè)內(nèi)還沒有一個共識。”瑞萊智慧CEO、北京智源人工智能研究院安全創(chuàng)新中心執(zhí)行主任田天告訴《中國電子報(bào)》記者，業(yè)界需要從產(chǎn)業(yè)層面讓更多的從業(yè)者參與進(jìn)來，這樣才能真正實(shí)現(xiàn)治理目標(biāo)，所以研究院決定聯(lián)合業(yè)內(nèi)的標(biāo)桿AI企業(yè)，一起來發(fā)布這樣一份宣言。
田天指出，圍繞每一項(xiàng)倡議，研究院都將開展實(shí)際的踐行工作。自2018年智源研究院創(chuàng)辦以來，一直致力于人工智能產(chǎn)業(yè)治理層面的相關(guān)工作推進(jìn)。比如技術(shù)方面打造可靠可信賴的系統(tǒng)，開展隱私保護(hù)計(jì)算等。在推動行業(yè)共治方面，智源研究院與人工智能產(chǎn)業(yè)鏈各環(huán)節(jié)相關(guān)監(jiān)管部門、科研機(jī)構(gòu)積極協(xié)作，推動技術(shù)規(guī)范與標(biāo)準(zhǔn)的制定，比如與相關(guān)機(jī)構(gòu)聯(lián)合制定了我國人臉模型算法自身安全相關(guān)的第一個標(biāo)準(zhǔn)《信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范 》。
AI要確保安全可控可信
正如百度創(chuàng)始人李彥宏所說：AI的最高原則是安全可控。
《宣言》中指出，要高度關(guān)注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，提高系統(tǒng)抗攻擊和自我修復(fù)能力，確保人工智能系統(tǒng)安全可靠可控地工作。努力增強(qiáng)人工智能算法的透明性和可解釋性，并保持與人工智能各個利益相關(guān)方的緊密溝通，最大限度地確保人工智能系統(tǒng)可信。
中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長、瑞萊智慧首席科學(xué)家張鈸在《宣言》發(fā)布現(xiàn)場演講時指出，人工智能與信息系統(tǒng)在安全性上有著顯著區(qū)別。信息系統(tǒng)安全性問題主要是軟件設(shè)計(jì)中的漏洞，容易被解決。第二代人工智能的安全性問題主要來自于深度學(xué)習(xí)算法。張鈸認(rèn)為，人工智能治理，防止誤用、濫用，一方面要從法律法規(guī)、倫理規(guī)范、行業(yè)共識等不同層面去“治標(biāo)”，還應(yīng)從技術(shù)創(chuàng)新層面發(fā)力去“治本”。
張鈸提出發(fā)展第三代人工智能技術(shù)，即融合了第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動的人工智能，利用知識、數(shù)據(jù)、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。
政企學(xué)聯(lián)合發(fā)力加強(qiáng)AI治理
一個蒸蒸日上，體量不斷擴(kuò)大的產(chǎn)業(yè)，很難單憑一己之力完成有效治理。AI產(chǎn)業(yè)需要企業(yè)、政府以及學(xué)術(shù)界的共同努力，在政府頂層設(shè)計(jì)和規(guī)劃的指導(dǎo)下，推動企業(yè)自律，科研和產(chǎn)業(yè)界的共識至關(guān)重要。
《宣言》強(qiáng)調(diào)，人工智能相關(guān)從業(yè)者應(yīng)具有高度的社會責(zé)任感和自律意識，將人工智能倫理與治理原則、實(shí)踐貫穿于產(chǎn)品和服務(wù)的全生命周期。倡議企業(yè)成立人工智能治理委員會或工作組、設(shè)立倫理研究員崗位或通過外部技術(shù)支持等方式來有效踐行自律自治，同時促進(jìn)企業(yè)與政府、社會深度協(xié)同治理，積極參與人工智能相關(guān)法律法規(guī)以及標(biāo)準(zhǔn)的制定和落實(shí)。
中國科學(xué)院自動化研究所研究員、國家新一代人工智能治理專委會委員、聯(lián)合國教科文組織人工智能倫理特設(shè)專家組專家曾毅提出，要在人工智能產(chǎn)品設(shè)計(jì)、研究、開發(fā)、部署、使用全生命周期嵌入倫理與治理的要義，并形成政府、學(xué)術(shù)界、企業(yè)、公民社會、媒體、用戶、服務(wù)提供商等多方主動共治的良性生態(tài)，使穩(wěn)健發(fā)展的人工智能賦能全球可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。
“我們希望這份宣言能夠?yàn)榭萍计髽I(yè)提供了治理參考與初步的實(shí)操建議，以及推動政產(chǎn)學(xué)研各界加快形成多方共治體系，加速構(gòu)建‘可持續(xù)、負(fù)責(zé)任、有價值’的人工智能生態(tài)。”田天表示。
