近日《2024人工智能安全報(bào)告》，稱人工智能技術(shù)的惡意使用將快速增長(zhǎng)，在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。報(bào)告數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長(zhǎng)了1000%。奇安信預(yù)計(jì)，未來十年，人工智能技術(shù)的惡意使用將快速增長(zhǎng)，將在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。
奇安信威脅情報(bào)中心監(jiān)測(cè)發(fā)現(xiàn)，已有多個(gè)有國(guó)家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。各類基于AI的新型攻擊種類與手段不斷出現(xiàn)，甚至出現(xiàn)泛濫，包括深度偽造（Deepfake）、黑產(chǎn)大語(yǔ)言模型、惡意AI機(jī)器人、自動(dòng)化攻擊等，在全球造成了嚴(yán)重危害。面對(duì)AI網(wǎng)絡(luò)攻擊、AI武器化等日益嚴(yán)峻的安全威脅，《報(bào)告》認(rèn)為，AI技術(shù)將會(huì)推動(dòng)安全領(lǐng)域發(fā)生范式變革，全行業(yè)需啟動(dòng)人工智能網(wǎng)絡(luò)防御推進(jìn)計(jì)劃。在人工智能帶來巨大想象空間的同時(shí)，安全問題值得進(jìn)一步關(guān)注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/p>
國(guó)信證券此前指出，AI在安全運(yùn)維里為甲乙雙方節(jié)省的時(shí)間和人員成本是顯而易見的，且拓展了傳統(tǒng)安全的能力邊界，不管是利用AI檢測(cè)未知威脅，還是處理海量事件，均是AI帶來的嶄新價(jià)值，因此持續(xù)看好網(wǎng)絡(luò)安全產(chǎn)業(yè)，維持“超配”評(píng)級(jí)。重點(diǎn)關(guān)注在AI大模型積極投入的廠商，奇安信、深信服、安恒信息、綠盟科技、啟明星辰、天融信等。
