在1982年上映的電影《銀翼殺手》中，2019年的人類已經(jīng)掌握了人工智能（AI）以及復(fù)制人的技術(shù)，那些敏捷干練的復(fù)制人常被用于各種高危工作中。
盡管電影呈現(xiàn)的是虛構(gòu)的世界，但現(xiàn)實(shí)中的2019年，AI技術(shù)確實(shí)也已開始頻繁地應(yīng)用在醫(yī)療健康、智能制造、教育等多個(gè)領(lǐng)域。
新興技術(shù)的發(fā)展往往是一把“雙刃劍”，在AI驅(qū)動(dòng)社會(huì)各領(lǐng)域發(fā)展的同時(shí)，作為AI技術(shù)的關(guān)鍵因素?cái)?shù)據(jù)也成為重點(diǎn)保護(hù)對象。
歐洲市場研究和咨詢服務(wù)公司kbv research曾發(fā)布預(yù)測報(bào)告指出，數(shù)據(jù)安全市場將以每年18%的復(fù)合增長率發(fā)展，估計(jì)2023年將達(dá)到209億美元；若以在2023年達(dá)到全球20%的GDP來估算，中國市場規(guī)模將達(dá)到約400億元人民幣，未來人工智能在數(shù)據(jù)安全治理領(lǐng)域仍存在很大應(yīng)用潛力。
硬幣的兩面
數(shù)字經(jīng)濟(jì)時(shí)代，海量的數(shù)據(jù)不僅能助力以深度學(xué)習(xí)為代表的AI算法的設(shè)計(jì)與優(yōu)化，更能顯著提升數(shù)據(jù)收集管理能力和數(shù)據(jù)挖掘利用水平。
上海電氣風(fēng)電iwind數(shù)據(jù)中心內(nèi)，大屏幕上實(shí)時(shí)顯示全國5500多臺(tái)風(fēng)機(jī)的情況，這些顏色不一的風(fēng)機(jī)有不同的含義。
上海電氣集團(tuán)數(shù)字科技有限公司總經(jīng)理程艷對記者介紹，不同的顏色代表每臺(tái)風(fēng)機(jī)的發(fā)電性能健康值，綠色是正常運(yùn)行，黃色表示處于報(bào)警狀態(tài)，白色則是還沒上傳最新健康數(shù)據(jù)。有了這些實(shí)時(shí)數(shù)據(jù)，他們就不用像以前一樣用人工來完成每半年或一年一次的檢修了。
“臺(tái)風(fēng)天這些風(fēng)機(jī)也會(huì)進(jìn)行自我預(yù)判，根據(jù)臺(tái)風(fēng)路徑提前幾小時(shí)停止運(yùn)轉(zhuǎn)避免損傷。”該數(shù)據(jù)中心的技術(shù)人員告訴記者。
大數(shù)據(jù)分析和AI技術(shù)的運(yùn)用不僅僅只出現(xiàn)在工業(yè)領(lǐng)域。從帶有虹膜識(shí)別的安防攝像頭，到裝載有 Autopilot（自動(dòng)輔助駕駛）的自動(dòng)駕駛汽車，AI技術(shù)的運(yùn)用已經(jīng)像水和電一樣開始滲透至經(jīng)濟(jì)社會(huì)發(fā)展的各個(gè)方面。
這些AI運(yùn)用的基礎(chǔ)，除了底層算法的搭建，更重要的還是數(shù)據(jù)的運(yùn)用。但技術(shù)運(yùn)用的不確定性也會(huì)產(chǎn)生連帶的隱患。
2018年曝光的 “Facebook 數(shù)據(jù)泄露”事件中，美國劍橋分析公司利用廣告定向、 行為分析等智能算法，推送虛假廣告；去年8月，騰訊安全團(tuán)隊(duì)發(fā)現(xiàn)亞馬遜智能音箱后門，可實(shí)現(xiàn)遠(yuǎn)程竊聽并錄音……
中國信息通信研究院近日發(fā)布的《人工智能數(shù)據(jù)安全白皮書》（下稱“白皮書”）也顯示，人工智能應(yīng)用可導(dǎo)致個(gè)人數(shù)據(jù)過度采集，加劇隱私泄露風(fēng)險(xiǎn)。隨著各類智能設(shè)備（如智能手環(huán)、智能音箱）和智能系統(tǒng)（如生物特征 識(shí)別系統(tǒng)、智能醫(yī)療系統(tǒng)）的應(yīng)用普及，人工智能設(shè)備和系統(tǒng)對個(gè)人信息采集更加直接與全面。
相較于互聯(lián)網(wǎng)對用戶上網(wǎng)習(xí)慣、消費(fèi)記錄等信息采集，人工智能應(yīng)用可采集用戶人臉、指紋、聲紋、虹膜、心跳、基因等具有強(qiáng)個(gè)人屬性的生物特征信息。這些信息具有唯一性和不變性，一旦被泄露或者濫用會(huì)對公民權(quán)益造成嚴(yán)重影響。
“在數(shù)據(jù)安全方面，像上海電氣這種自建內(nèi)網(wǎng)，而且主要是B2B的企業(yè)就比較好。一個(gè)企業(yè)或者個(gè)人若沒有防護(hù)體系就接入終端，很容易出現(xiàn)安全問題。”中國信通院華東分院首席規(guī)劃師賀仁龍告訴記者，AI技術(shù)在企業(yè)的應(yīng)用中，涉及設(shè)備安全、數(shù)據(jù)安全、控制安全、網(wǎng)絡(luò)安全、應(yīng)用安全五大方面，其中核心是數(shù)據(jù)安全。而這一方面，醫(yī)療領(lǐng)域是高危，例如醫(yī)療設(shè)備因沒有經(jīng)過多番測試導(dǎo)致病人資料泄露。而且造成這類問題，一定程度上是因?yàn)槿狈π畔⒒膶I(yè)人才進(jìn)行防控。
電子科技大學(xué)教授周濤也持同樣看法。他在近日接受第一財(cái)經(jīng)記者專訪時(shí)表示，在AI時(shí)代，醫(yī)療行業(yè)不像防備嚴(yán)格的金融行業(yè)，數(shù)據(jù)外泄是一個(gè)非常嚴(yán)重的問題。“所以我們可以嘗試把病人的數(shù)據(jù)進(jìn)行預(yù)脫敏。畢竟名字、電話這種數(shù)據(jù)和病例沒有直接關(guān)系，所以對患者的郵箱、電話、家庭住址等信息進(jìn)行脫敏，也能減少隱私泄露問題。”
完善人工智能治理
隨著世界主要國家把發(fā)展AI作為提升國家競爭力、維護(hù)國家安全的重大戰(zhàn)略，涵蓋技術(shù)產(chǎn)業(yè)和治理的多項(xiàng)規(guī)劃政策也都陸續(xù)出臺(tái)。
上海市科學(xué)學(xué)研究所科技發(fā)展研究中心主任王迎春認(rèn)為，當(dāng)前全球的AI競爭從兩個(gè)維度上展開，一是搶占技術(shù)和產(chǎn)業(yè)制高點(diǎn)，二是爭奪AI治理規(guī)則的制定權(quán)。“AI正在對經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、國際政治經(jīng)濟(jì)格局等方面產(chǎn)生重大而深遠(yuǎn)的影響。需要我們加強(qiáng)AI同社會(huì)治理的結(jié)合，加強(qiáng)AI發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，加強(qiáng)相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障AI健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”
今年2月，美國總統(tǒng)特朗普簽署《美國人工智能倡議》，指出在資源調(diào)配上，聯(lián)邦政府的數(shù)據(jù)、算法和計(jì)算機(jī)處理資源將更多向美國人工智能研發(fā)人員和企業(yè)開放，并提出加強(qiáng)對數(shù)據(jù)安全問題的應(yīng)對。此后的6月，美國發(fā)布新版《國家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》，要求所有機(jī)構(gòu)負(fù)責(zé)人審查各自聯(lián)邦數(shù)據(jù)和模型，注重保護(hù)數(shù)據(jù)安全、 隱私和機(jī)密性。
去年12月，為落實(shí)《歐盟人工智能戰(zhàn)略》，歐盟發(fā)布《人工智能協(xié)調(diào)計(jì)劃》。按照計(jì)劃，“人工智能歐洲造”有兩大關(guān)鍵原則：一是“設(shè)計(jì)倫理”，即人工智能在設(shè)計(jì)進(jìn)程之初就必須在《通用數(shù)據(jù)保護(hù)條例》基礎(chǔ)上，遵守倫理和道德法律原則、競爭法等；二是“設(shè)計(jì)安全”，即人工智能在設(shè)計(jì)之初必須考慮保護(hù)網(wǎng)絡(luò)安全和有利于相關(guān)執(zhí)法活動(dòng)的便利化。
同樣的，我國在高度重視數(shù)據(jù)收集以及建設(shè)發(fā)展的同時(shí)，也在推進(jìn)AI的安全應(yīng)用，防范AI數(shù)據(jù)風(fēng)險(xiǎn)。《新一代人工智能發(fā)展規(guī)劃》、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018-2020 年)》等，都從數(shù)據(jù)開放和數(shù)據(jù)風(fēng)險(xiǎn)防范提出了多項(xiàng)規(guī)劃。
尤其是近兩年，不管是國家層面還是行業(yè)層面都動(dòng)作頻頻。
2018 年9月，《人工智能安全發(fā)展上海倡議》在世界人工智能大會(huì)期間發(fā)布。倡議提出，人工智能發(fā)展需要保障用戶的數(shù)據(jù)安全，不得以犧牲用戶隱私為代價(jià)，需要加強(qiáng)數(shù)據(jù)保護(hù)立法，豐富人工智能的技術(shù)路線，不斷強(qiáng)化人工智能應(yīng)用中的用戶隱私保護(hù)。
今年6月，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南，明確提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八項(xiàng)原則。百度、阿里、騰訊、曠視科技等企業(yè)也在推動(dòng)倫理準(zhǔn)則、技術(shù)防護(hù)上有一些具體的舉措。
周濤告訴記者，人工智能治理專業(yè)委員會(huì)的建立表明我國已經(jīng)開始認(rèn)真思考這些問題，也是非常負(fù)責(zé)任的做法。“此前關(guān)于數(shù)據(jù)、AI倫理等事件沒有明確的規(guī)定，處于一個(gè)自發(fā)的狀態(tài)，通過這個(gè)委員則會(huì)一步完善。”
不過，白皮書指出，相比一些先進(jìn)國家較早重視人工智能數(shù)據(jù)安全倫理原則，我國相關(guān)倫理原則大多為近期發(fā)布，加之長期以來社會(huì)公眾對個(gè)人數(shù)據(jù)保護(hù)的意識(shí)觀念和重視程度存在較大差異，導(dǎo)致人工智能數(shù)據(jù)安全倫理的社會(huì)影響力受限。
另外，我國目前尚未形成體系完善的人工智能數(shù)據(jù)安全法律法規(guī)，并且數(shù)據(jù)安全和個(gè)人信息保護(hù)立法相對滯后，亟需針對當(dāng)前新技術(shù)和新業(yè)態(tài)發(fā)展，加速完成數(shù)據(jù)安全和個(gè)人信息保護(hù)的頂層立法，為人工智能健康發(fā)展提供法律支撐。
王迎春也曾撰文表示，中國應(yīng)堅(jiān)持技術(shù)、產(chǎn)業(yè)和規(guī)則齊步走，建立更加具有彈性空間的動(dòng)態(tài)治理機(jī)制，積極在促進(jìn)創(chuàng)新和社會(huì)有序演進(jìn)方面實(shí)現(xiàn)動(dòng)態(tài)平衡，既要呵護(hù)促進(jìn)創(chuàng)新又要防范系統(tǒng)性風(fēng)險(xiǎn)，為人工智能健康發(fā)展提供保障。要努力形成一套務(wù)實(shí)管用、行之有效的方法，對創(chuàng)新高度包容，同時(shí)對可能出現(xiàn)的風(fēng)險(xiǎn)高度警惕，針對出現(xiàn)的問題加強(qiáng)多部門的協(xié)同治理。
