“以數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)，其技術(shù)潛力已接近‘天花板’。”9月1日，在2022世界人工智能大會(huì)-可信AI論壇，瑞萊智慧RealAI合伙人、高級(jí)副總裁朱萌發(fā)表了演講。
第二代人工智能是以數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)，在本世紀(jì)第二個(gè)十年高歌猛進(jìn)。但學(xué)界普遍認(rèn)為，從應(yīng)用的角度來看，深度學(xué)習(xí)的本質(zhì)是利用沒有加工處理過的數(shù)據(jù)，以概率學(xué)習(xí)的“黑箱”處理方法尋找規(guī)律。這一方法本質(zhì)上不可解釋，非常脆弱，帶來了新的風(fēng)險(xiǎn)和問題。
朱萌以瑞萊智慧團(tuán)隊(duì)所做的研究成果舉例：在自動(dòng)駕駛場(chǎng)景中，通過修改錐桶的形狀，就能讓汽車感知模塊失效，徑直撞上去；通過在T恤上打印含特殊的花紋，就能讓檢測(cè)系統(tǒng)捕捉不到穿這件衣服的人，實(shí)現(xiàn)“隱身”；制作帶有特制花紋的眼鏡，可刷開數(shù)十部商用手機(jī)的人臉解鎖等。
為此，清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、瑞萊智慧首席科學(xué)家張鈸院士提出要發(fā)展“第三代人工智能”，在實(shí)現(xiàn)高水平安全的前提下，為人工智能高水平發(fā)展提供動(dòng)力和支撐。
安全可信，已成為人工智能穩(wěn)健發(fā)展的主要抓手，也將逐步成為行業(yè)規(guī)范化、技術(shù)商業(yè)化的關(guān)鍵助推器。
“人工智能當(dāng)前的安全風(fēng)險(xiǎn)主要可以從‘系統(tǒng)’與‘人’兩個(gè)視角來剖析。”朱萌認(rèn)為，系統(tǒng)層面來看，以深度學(xué)習(xí)算法為核心的人工智能系統(tǒng)十分脆弱，其結(jié)構(gòu)性漏洞致使“對(duì)抗樣本攻擊”不可避免，而其數(shù)據(jù)依賴性則使其存在“數(shù)據(jù)投毒”漏洞，出現(xiàn)“后門攻擊”。從“人”的層面來評(píng)估AI的可信問題，主要風(fēng)險(xiǎn)來自人的濫用、惡意應(yīng)用，最為典型的就是深度合成技術(shù)。它大幅降低了信息生成合成的難度，但其負(fù)向應(yīng)用已產(chǎn)生實(shí)質(zhì)危害，甚至存在“武器化”風(fēng)險(xiǎn)。
針對(duì)上述風(fēng)險(xiǎn)，瑞萊智慧于今年6月成立了人工智能治理研究院，探尋從倫理法規(guī)到技術(shù)落地的人工智能治理實(shí)踐之路。
據(jù)介紹，瑞萊智慧搭建了系列安全可控新一代人工智能基礎(chǔ)設(shè)施，在數(shù)據(jù)可用、算法可靠、應(yīng)用可控等方向上均有世界領(lǐng)先技術(shù)和獨(dú)創(chuàng)功能，目前已在政務(wù)、金融、工業(yè)互聯(lián)網(wǎng)等高價(jià)值場(chǎng)景中發(fā)揮了作用。
