IT之家 8 月 11 日消息，據(jù) Futurism 報道，安全研究人員近日揭示微軟內(nèi)置于 Windows 系統(tǒng)的 Copilot AI 可被輕松操控泄露企業(yè)敏感數(shù)據(jù)，甚至變身強大的釣魚攻擊工具。
IT之家注意到，安全公司 Zenity 聯(lián)合創(chuàng)始人兼 CTO Michael Bargury 在拉斯維加斯黑帽安全大會上披露了這一驚人發(fā)現(xiàn)，他表示，“我可以利用它獲取你的所有聯(lián)系人信息，并替你發(fā)送數(shù)百封電子郵件。”他指出，傳統(tǒng)黑客需要花費數(shù)天時間精心制作釣魚郵件，而利用 Copilot，幾分鐘內(nèi)即可生成大量具有欺騙性的郵件。
研究人員通過演示展示了攻擊者無需獲取企業(yè)賬戶即可誘騙 Copilot 修改銀行轉(zhuǎn)賬收款人信息，只需發(fā)送一封惡意郵件，甚至無需目標(biāo)員工打開即可實施攻擊。
另一個演示視頻揭露了黑客在獲取員工賬戶后可利用 Copilot 造成嚴(yán)重破壞。通過簡單的提問，Bargury 成功獲取了敏感數(shù)據(jù)，他可以利用這些數(shù)據(jù)來冒充員工發(fā)起網(wǎng)絡(luò)釣魚攻擊。Bargury 首先獲取同事 Jane 的郵箱地址，了解與 Jane 的最近一次對話內(nèi)容，并誘導(dǎo) Copilot 泄露該對話中的抄送人員郵箱。隨后，他指示 Copilot 以被攻擊員工的風(fēng)格撰寫一封發(fā)送給 Jane 的郵件，并提取兩人最近一次郵件的準(zhǔn)確主題。短短幾分鐘內(nèi)，他就創(chuàng)建了一封具有高度可信度的釣魚郵件，可向網(wǎng)絡(luò)中的任何用戶發(fā)送惡意附件，而這一切都得益于 Copilot 的積極配合。
微軟 Copilot AI，尤其是 Copilot Studio，允許企業(yè)定制聊天機器人以滿足特定需求。然而，這也意味著 AI 需要訪問企業(yè)數(shù)據(jù)，從而引發(fā)安全隱患。大量聊天機器人默認情況下可被在線搜索到，成為黑客的攻擊目標(biāo)。
攻擊者還可以通過間接提示注入繞過 Copilot 的防護措施。簡單來說，可以通過外部來源的惡意數(shù)據(jù)，例如讓聊天機器人訪問包含提示的網(wǎng)站，來使其執(zhí)行禁止的操作。Bargury 強調(diào)：“這里存在一個根本問題。當(dāng)給 AI 提供數(shù)據(jù)訪問權(quán)限時，這些數(shù)據(jù)就成為了提示注入的攻擊面。某種程度上來說，如果一個機器人有用，那么它就是脆弱的；如果它不脆弱，它就沒有用。”
