日新月異的AI技術(shù)，猶如達(dá)摩克里斯之劍，不僅帶來機(jī)遇，更有挑戰(zhàn)和風(fēng)險。
今年5月，AI詐騙在全國爆發(fā)的話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。湖北網(wǎng)警巡查執(zhí)法稱，AI技術(shù)正在改變詐騙，某些新騙局詐騙成功率接近100%。
騰訊安全副總裁、玄武實驗室負(fù)責(zé)人于
在金融行業(yè)，如何以AI對抗AI，最終在AI時代的攻防對抗中取勝？12月6日，2024首屆騰訊云金融安全峰會上，騰訊安全副總裁、玄武實驗室負(fù)責(zé)人于表示，隨著大模型技術(shù)被黑灰產(chǎn)惡意使用，金融行業(yè)面臨更“定制化、針對性”的安全威脅。但與此同時，大模型技術(shù)也可提升安全人員在漏洞挖掘、滲透分析等方面的效率。
“安全運營不是新的需求，并非依靠AI能實現(xiàn)0到1的提升，在細(xì)分領(lǐng)域需要慢慢積累行業(yè)性的沉淀，數(shù)據(jù)的準(zhǔn)備、對接、場景的顆粒度細(xì)化將實現(xiàn)步步推進(jìn)，不斷達(dá)成進(jìn)步。”騰訊安全副總經(jīng)理、科恩實驗室專家聶森告訴澎湃新聞記者，以AI對抗AI是金融行業(yè)保障安全的必經(jīng)之路，攻防雙方只有在同一起跑線，才能達(dá)到“勢均力敵”的效果。
硬幣的兩面：AI的機(jī)遇和挑戰(zhàn)
說起AI帶來的金融風(fēng)險，在2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上，業(yè)內(nèi)人士曾將AI帶來的安全危機(jī)總結(jié)為“三化”，即黑箱化、黑產(chǎn)化、武器化。黑產(chǎn)化強(qiáng)調(diào)了深度偽造的危害。在AI的加持下，深度偽造越來越貼近真實，無論是公眾還是企業(yè)，都很難逃脫深偽詐騙的陷阱。
黑箱化指的是在生成AI大模型的過程中存在黑箱，模糊了攻擊者可能采取的具體破壞手段，從而導(dǎo)致有害內(nèi)容及錯誤信息的泛濫。
武器化指的是人工智能可以生成惡意軟件、釣魚郵件，也可以快速發(fā)現(xiàn)目標(biāo)系統(tǒng)中的漏洞，大幅降低網(wǎng)絡(luò)攻擊門檻，讓不懂代碼、不懂技術(shù)的普通人也能成為黑客，使攻擊數(shù)量大幅增加。
不過，在業(yè)內(nèi)人士看來，AI帶來的更多是幫助，既能用推理能力應(yīng)對繁重工作，也能通過其潛力提高決策的智能化。
騰訊安全威脅情報產(chǎn)品規(guī)劃負(fù)責(zé)人高睿告訴記者，在AI+威脅情報的實際應(yīng)用中，效果最為顯著的是降噪功能。從現(xiàn)實來看，降噪的過程相當(dāng)于將最基礎(chǔ)、每天需要人工重復(fù)處理的任務(wù)交給了AI，從而解放了人力資源，這樣安全運營人員就能轉(zhuǎn)向研究更深入、更具挑戰(zhàn)性的安全問題。
此外，AI在安全運營方面還能起到進(jìn)一步的幫助。騰訊安全提出以AI輔助安全運營，將端側(cè)、流量側(cè)的數(shù)據(jù)匯總到“安全湖”，再利用AI大模型技術(shù)對“安全湖”進(jìn)行綜合研判，將威脅和指標(biāo)、響應(yīng)相結(jié)合，輸出成為自動的指令，從而實現(xiàn)自動化、閉環(huán)的響應(yīng)和處置流程。
AI如何為金融行業(yè)賦能
“在我的觀察中，金融機(jī)構(gòu)正在變得越來越有信心，在真正使用國產(chǎn)軟硬件后，發(fā)現(xiàn)不僅‘可用’也是‘好用’的，事情越來越靠譜了�！睂τ贏I產(chǎn)品的具體應(yīng)用，騰訊金融云副總經(jīng)理王豐輝談到了自己的感受。
他介紹，騰訊安全已經(jīng)推出騰訊云數(shù)據(jù)安全審計（DSAudit），通過大模型來保障金融行業(yè)的數(shù)據(jù)合規(guī)和安全。
對于金融機(jī)構(gòu)來說，其擁有的數(shù)據(jù)大多是敏感數(shù)據(jù)，包括信息數(shù)據(jù)（如姓名、身份證等）、金融資產(chǎn)特征信息、股票賬號信息，還包括了微信號、GPS定位、QQ號碼等新型身份特征，以及新能源車輛信息等等。因此，保障數(shù)據(jù)安全不僅是合規(guī)需要，還是對自身業(yè)務(wù)的有力保障。
騰訊的云數(shù)據(jù)安全審計基于大數(shù)據(jù)+AI，構(gòu)建一個全面的數(shù)據(jù)安全監(jiān)控、異常行為分析和細(xì)粒度安全審計體系。產(chǎn)品自研了規(guī)則引擎、語義引擎、UEBA行為分析引擎這三大安全引擎，預(yù)置了700+規(guī)則模型，通過對事中數(shù)據(jù)風(fēng)險監(jiān)測和事后異常行為審計能力，切實有效地保護(hù)數(shù)據(jù)的安全，防止數(shù)據(jù)泄露和濫用。
在規(guī)則引擎中，當(dāng)監(jiān)測到的操作或行為與規(guī)則相匹配時，引擎會觸發(fā)相應(yīng)的告警動作。在語義引擎中，可以深度解析SQL語句，理解數(shù)據(jù)操作的真實意圖和目的，從而更準(zhǔn)確地識別潛在的安全威脅、不合規(guī)操作，減少誤報和漏報。
當(dāng)前中國已經(jīng)步入數(shù)字經(jīng)濟(jì)時代，銀行99%的業(yè)務(wù)都可以在線上完成，金融行業(yè)的重點也從業(yè)務(wù)變成服務(wù)。近年來，銀行等金融機(jī)構(gòu)正在面臨著新增零售信貸業(yè)務(wù)風(fēng)控難與存量零售風(fēng)控業(yè)務(wù)風(fēng)險上升的雙重挑戰(zhàn)。
具體來看，零售信貸業(yè)務(wù)風(fēng)控主要圍繞在貸前調(diào)查和貸中、后管理。在這期間，隨著深度偽造技術(shù)的泛濫，銀行在風(fēng)控過程中容易面臨借款人主體資格不合規(guī)、提供虛假申請資料或還款能力不足等欺詐風(fēng)險。
面對這一現(xiàn)狀，騰訊安全提出了天御金融風(fēng)控大模型，這也是業(yè)內(nèi)首個針對金融風(fēng)控的大模型。
據(jù)了解，騰訊云天御金融風(fēng)控大模型以騰訊安全20多年與黑產(chǎn)對抗經(jīng)驗以及海量安全數(shù)據(jù)為基礎(chǔ)，集成了大模型、遷移學(xué)習(xí)和蒸餾學(xué)習(xí)等業(yè)界先進(jìn)技術(shù)，融合了多模態(tài)金融風(fēng)控數(shù)據(jù)與知識的強(qiáng)大生成式智能風(fēng)控模型。
內(nèi)容+數(shù)據(jù)，全鏈路保障AI安全
對于金融行業(yè)來說，既然擁抱AI技術(shù)是一種必然，那么保障AI大模型的安全也是一種必然。
AI安全已成為業(yè)內(nèi)最重要的風(fēng)險之一，主要包括三個方面：首先是模型訓(xùn)練階段，高風(fēng)險、違規(guī)數(shù)據(jù)需要剔除，高質(zhì)量、連貫的對話需要審校。其次是內(nèi)容生成階段，包括新風(fēng)格的違規(guī)內(nèi)容、偽造類內(nèi)容和版權(quán)風(fēng)險。最后是事后階段，對輿論不適或者內(nèi)容違規(guī)要及時改進(jìn)和響應(yīng)。
如果大模型在運轉(zhuǎn)過程中出錯，無疑將帶來高額的成本。在監(jiān)管方面，國家也在重拳出擊，重點提升AI安全。4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見的通知，規(guī)定AIGC內(nèi)容不得含有暴恐、低俗、歧視、侵權(quán)等違法違規(guī)內(nèi)容，明確提出“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息”。
對于金融行業(yè)來說，更要兼顧政策合規(guī)等宏觀環(huán)境的制約，騰訊安全在AI內(nèi)容安全上的實踐可以作為很好的參考對象。
在內(nèi)容安全方面，騰訊安全推出了AIGC全鏈路內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)四大能力板塊，包含風(fēng)險場景定義、風(fēng)險語料庫服務(wù)、語料版權(quán)檢測、輸出價值觀檢測、業(yè)務(wù)傳播風(fēng)險監(jiān)測等能力，覆蓋生成式AI應(yīng)用從模型訓(xùn)練到內(nèi)容生成到事后運營全過程的內(nèi)容安全建設(shè)。這套方案覆蓋AIGC類應(yīng)用從模型訓(xùn)練到內(nèi)容生成再到事后運營全過程的內(nèi)容安全建設(shè)，并已在多個場景實踐落地。
在數(shù)據(jù)合規(guī)和安全方面，為防范數(shù)據(jù)安全問題造成的隱私侵犯、經(jīng)濟(jì)損失、法律責(zé)任、聲譽(yù)損失等系列問題，需要對數(shù)據(jù)工程師、算法工程師等人員做好身份認(rèn)證、數(shù)據(jù)訪問控制以及操作管控，對數(shù)據(jù)做好防篡改、敏感數(shù)據(jù)去標(biāo)識化、以及數(shù)據(jù)行為審計和異常監(jiān)測。騰訊安全打造了數(shù)據(jù)安全治理解決方案，通過對大模型的用戶、實體、模型文件實施分級別的訪問控制，實現(xiàn)權(quán)限分離。同時，騰訊云通過數(shù)據(jù)安全治理中心、數(shù)據(jù)安全防護(hù)網(wǎng)關(guān)、機(jī)密計算平臺等產(chǎn)品能力，實現(xiàn)大模型業(yè)務(wù)全流程從數(shù)據(jù)采集、數(shù)據(jù)處理、訓(xùn)練、精調(diào)、發(fā)布、推理到應(yīng)用的過程中，海量數(shù)據(jù)和大模型的完整性和保密性。
目前，騰訊安全已經(jīng)在AI方面的投入正在逐漸加大，騰訊大模型基礎(chǔ)能力和應(yīng)用結(jié)合整體處在趨于加速的狀態(tài)。期望騰訊安全能夠進(jìn)一步推廣“AI+安全”，幫助金融機(jī)構(gòu)進(jìn)一步提高安全水位。
