在2023世界人工智能開發(fā)者先鋒大會(huì)開幕式上，開放元宇宙基金會(huì)董事羅尤奧布萊恩談及ChatGPT時(shí)，特別提到了安全問題，“我們一定要有保障的規(guī)則，要有護(hù)欄，確保做壞事的人帶來的影響有限。”
“安全”二字在大會(huì)期間被反復(fù)提及。
盡管ChatGPT的概念出現(xiàn)沒有多久，但對(duì)網(wǎng)絡(luò)安全和數(shù)據(jù)安全帶來威脅的問題已經(jīng)成為業(yè)內(nèi)關(guān)注的焦點(diǎn)。對(duì)于目前為止還在“一本正經(jīng)胡說八道”的ChatGPT，如此擔(dān)憂是否杞人憂天？
安全威脅已經(jīng)或正在發(fā)生
Fortinet 北亞區(qū)首席技術(shù)顧問譚杰對(duì)第一財(cái)經(jīng)記者表示，ChatGPT等AI技術(shù)對(duì)網(wǎng)絡(luò)和數(shù)據(jù)安全的威脅已經(jīng)在發(fā)生了。
譚杰表示，盡管ChatGPT本身尚不具備直接攻擊網(wǎng)絡(luò)安全和數(shù)據(jù)安全的能力，但是由于它具有自然語言生成和理解的能力，可以被用于偽造虛假信息、攻擊社交工程等方面。此外，攻擊者還可以使用自然語言來讓ChatGPT生成相應(yīng)的攻擊代碼、惡意軟件代碼、垃圾郵件等。因此，AI可以讓那些原本沒有能力發(fā)起攻擊的人基于AI生成攻擊，并大大提高攻擊成功率。
譚杰告訴記者，在自動(dòng)化、AI、 “攻擊即服務(wù)” 等技術(shù)和模式加持下，網(wǎng)絡(luò)安全攻擊呈現(xiàn)出暴漲趨勢。在ChatGPT火爆之前，已發(fā)生了多次黑客使用AI技術(shù)進(jìn)行的網(wǎng)絡(luò)攻擊。事實(shí)上，人工智能被用戶調(diào)教“帶偏節(jié)奏”的案例并不鮮見，6年前，微軟推出智能聊天機(jī)器人Tay，上線時(shí)，Tay表現(xiàn)得彬彬有禮，但不到24小時(shí)，“她”就被不良用戶“帶壞”，出言不遜、臟話不斷，言語甚至涉及種族主義、色情、納粹，充滿歧視、仇恨和偏見。小姑娘只好被下線結(jié)束了短暫的生命。
另一方面，距離用戶更近的風(fēng)險(xiǎn)是，用戶在使用ChatGPT等AI工具時(shí)，可能會(huì)不經(jīng)意間將私密數(shù)據(jù)輸入到云端模型，這些數(shù)據(jù)可能成為訓(xùn)練數(shù)據(jù)，也可能成為提供給他人答案的一部分，從而導(dǎo)致數(shù)據(jù)泄露和合規(guī)風(fēng)險(xiǎn)。
硅谷媒體報(bào)道，亞馬遜的公司律師稱，他們?cè)贑hatGPT生成的內(nèi)容中發(fā)現(xiàn)了與公司機(jī)密“非常相似”的文本，可能是由于一些亞馬遜員工在使用ChatGPT生成代碼和文本時(shí)輸入了公司內(nèi)部數(shù)據(jù)信息，該律師擔(dān)心輸入的信息可能被用作ChatGPT迭代的訓(xùn)練數(shù)據(jù)。
企業(yè)聞風(fēng)而動(dòng)構(gòu)建安全屏障
由于人工智能的迭代速度驚人，未來可能會(huì)繼續(xù)超越人們的認(rèn)知，世界人工智能開發(fā)者先鋒大會(huì)期間，不少行業(yè)人士對(duì)記者表示，業(yè)界應(yīng)該高度重視這個(gè)問題，應(yīng)立即著手構(gòu)建相應(yīng)的安全技術(shù)和制度。
已經(jīng)有企業(yè)在思考如何反制人工智能和類ChatGPT應(yīng)用可能帶來的威脅。在人工智能開發(fā)者先鋒大會(huì)上，商湯科技智能產(chǎn)業(yè)研究院院長田豐透露將會(huì)推出人工智能安全開放平臺(tái)。
該平臺(tái)的目標(biāo)是打造廣泛驗(yàn)證使用的可信任的全棧AI安全服務(wù)，在深度模型安全上，平臺(tái)提供模型體檢(涵蓋對(duì)抗安全、魯棒性以及后門安全評(píng)估)和開源的防御解決方案。在內(nèi)容創(chuàng)作保護(hù)上，平臺(tái)提數(shù)字水印功能，并且利用投毒技術(shù)保護(hù)圖片信息不被深度生成模型所利用。
早在2020年4月，清華大學(xué)AI研究院孵化企業(yè)Real AI（瑞萊智慧）就嘗試性地推出了首個(gè)針對(duì)AI在極端和對(duì)抗環(huán)境下的算法安全性檢測與加固的工具平臺(tái)Real Safe人工智能安全平臺(tái)。
隨后，瑞萊智慧于2021年6月，聯(lián)合清華大學(xué)、阿里安全推出AI攻防對(duì)抗基準(zhǔn)平臺(tái)。該平臺(tái)主要用于對(duì)AI防御和攻擊算法進(jìn)行自動(dòng)化、科學(xué)評(píng)估。
在上海“2022 世界人工智能大會(huì)-可信AI論壇”期間，中國信通院、清華大學(xué)、螞蟻集團(tuán)聯(lián)合發(fā)布AI安全檢測平臺(tái)“蟻鑒”，面向AI模型開發(fā)者提供從模型對(duì)抗測試到防御加固的一站式測評(píng)解決方案，幫助開發(fā)者一鍵識(shí)別和挖掘模型漏洞。
此外，記者從業(yè)內(nèi)人士了解到，用AI打敗AI的安防策略也在流行，不少公司目前正在防火墻、WAF、EDR、NDR、沙盒、SIEM等產(chǎn)品中植入AI引擎，以提升對(duì)于威脅的檢測和響應(yīng)能力。
對(duì)于企業(yè)高校和企業(yè)的前瞻性布局，德勤中國區(qū)主席蔣穎告訴記者，一般性技術(shù)的創(chuàng)新領(lǐng)域中，科技總是走在前面的，而治理和監(jiān)督相對(duì)而言往往是后置的，但是就目前看來，對(duì)于人工智能的安全和倫理的關(guān)注已經(jīng)走在了技術(shù)的前面。
而在談及人工智能安全開放平臺(tái)類似產(chǎn)品的前景時(shí)，蔣穎表示人工智能安全相關(guān)市場前景將會(huì)非常廣闊，但是目前更需要正視的，是開發(fā)人才短缺的問題。
