你是否放心把你的方向盤交給AI?
如果你在駕駛汽車的過程中看到這樣的指示牌,是否會(huì)停下?所有考取了駕照的人給出的答案一定是:會(huì)。但是自動(dòng)駕駛汽車可能不會(huì)。研究表明,黑客可以通過制造一些對(duì)抗性數(shù)據(jù)來欺騙自動(dòng)駕駛汽車,例如在停車標(biāo)志上增加一些遮擋物,讓車中的圖像識(shí)別AI將停車標(biāo)志識(shí)別為限速45英里/小時(shí),這樣汽車將會(huì)繼續(xù)保持行駛狀態(tài)而造成交通事故。那么,你現(xiàn)在是否愿意把手上的方向盤交給AI?
你每天使用的應(yīng)用是否正在監(jiān)視你?
你有沒有這種經(jīng)歷?在一些應(yīng)用中搜索鞋子之后,各種網(wǎng)站就給你推送鞋子的廣告。這是因?yàn)椋瑧?yīng)用廠商會(huì)用AI模型對(duì)你的搜索記錄生成用戶畫像并向你推送定制化廣告。你每天都在使用的各種APP是否在監(jiān)視著你的一舉一動(dòng)?熟悉你喜好和習(xí)慣的AI會(huì)不會(huì)泄露更多你的隱私?在AI滲透入每個(gè)人日常生活方方面面的時(shí)代,我們要怎么保護(hù)自己的隱私?
電話對(duì)面和你說話的人到底是誰?
如果親人打電話向你借錢,你是否會(huì)懷疑?畢竟電話對(duì)面的聲音聽上去就是親人的聲音。但現(xiàn)在的AI技術(shù)讓親人的聲音也變得不可信。有組織通過AI合成,幫助發(fā)聲困難的人打造出自己高還原度的聲音。但騙子會(huì)通過騷擾電話錄取親人的聲音后利用AI軟件生成其他語音,從而完成電話詐騙。如果不能很好地監(jiān)控和保障AI使用的目的,無論什么樣的AI技術(shù)都可能成為“幫兇”。
從這些案例可以看出,雖然AI技術(shù)發(fā)展為我們的生活帶來了很多便利,但同時(shí)也會(huì)帶來一系列的安全與隱私問題:AI模型可能被攻擊導(dǎo)致安全隱患、用戶隱私可能泄露、產(chǎn)品使用目的被濫用等。因此,對(duì)于企業(yè)來說,AI的安全和隱私治理刻不容緩!
企業(yè)應(yīng)該如何做?
AI的產(chǎn)品和應(yīng)用涉及一個(gè)廣泛的生態(tài)系統(tǒng),同時(shí)也涉及廣泛的市場(chǎng)參與者,每個(gè)市場(chǎng)參與者都分別屬于該生態(tài)系統(tǒng)的不同部分和層次。這些不同的部分包括硬件(例如芯片、服務(wù)器、傳感器等)、軟件、應(yīng)用的運(yùn)營和維護(hù)、以及數(shù)據(jù)的處理和利用等。所以,AI的每項(xiàng)產(chǎn)品與服務(wù)都高度依賴于第三方技術(shù)來執(zhí)行其功能。一方面,市場(chǎng)參與者的多樣性可能會(huì)增加單個(gè)元素的缺陷,導(dǎo)致各個(gè)元素之間的相互影響問題也會(huì)相應(yīng)增多。另一方面,消費(fèi)者和用戶也很難識(shí)別不同市場(chǎng)參與者的問題及其根源。
雖然各種法律法規(guī)和標(biāo)準(zhǔn)都為AI的安全與隱私提出了一些要求。如:2018年5月正式生效的歐盟的《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,簡(jiǎn)稱GDPR),ISO27001的信息安全管理體系,歐盟委員會(huì)(European Commission)人工智能高級(jí)專家組(High-Level Expert Group on Artificial Intelligence,AI HLEG)發(fā)布的正式版人工智能道德準(zhǔn)則《可信賴AI的倫理準(zhǔn)則》(ETHICS GUIDELINES FOR TRUSTWORTHY AI)、英國信息專員辦公室(Information Commissioner's Office, ICO)發(fā)布的《AI審計(jì)框架》等。但AI產(chǎn)品應(yīng)用的廣泛性導(dǎo)致了AI相關(guān)的利益方無法單獨(dú)對(duì)整個(gè)生態(tài)系統(tǒng)承擔(dān)所有責(zé)任。AI相關(guān)的利益方應(yīng)該建立起生態(tài)系統(tǒng)的責(zé)任和標(biāo)準(zhǔn),與云服務(wù)需要建立責(zé)任共擔(dān)模型一樣,全行業(yè)共同治理,促進(jìn)AI的健康快速發(fā)展,讓AI的決策更令人放心,讓AI的應(yīng)用得到保障。
華為和你一起探討
2018年10月,華為首次發(fā)布全棧和全場(chǎng)景的AI解決方案,并在過去的一年中取得了多樣的進(jìn)展與突破;同時(shí),華為在共同治理AI安全和隱私方面也已經(jīng)有了自己的系統(tǒng)性思考。華為將從全棧全場(chǎng)景AI解決方案的角度出發(fā),一如既往地把安全和隱私置于成本、進(jìn)度和特性之上,把安全和隱私融入AI整個(gè)產(chǎn)品生命周期,努力在整個(gè)AI生態(tài)系統(tǒng)的安全和隱私方面做得更多。
在2019年9月19日華為全聯(lián)接大會(huì)中,以“打造全面的AI安全與隱私保障體系”為主題的安全與隱私峰會(huì)上,華為將會(huì)邀請(qǐng)行業(yè)中的專家一起探討AI安全與隱私治理的問題。并且,華為會(huì)以白皮書的形式,分享這些思考和基于這些思考提出的AI安全與隱私治理框架,期待您的參與!