四川
據(jù)科技媒體Ars Technica 6月2日報道，社交巨頭Meta旗下的AI客服助手近期曝出重大安全漏洞，黑客通過簡單的誘導手段，成功騙過AI系統(tǒng)，竊取了多個極具價值的Instagram高權重賬號。
知名安全專家ZachXBT與Dark Web Informer隨后證實了這一消息。據(jù)悉，被盜賬號中包括極其罕見的短ID賬號“@hey”和“@jowo”。據(jù)網(wǎng)絡安全博客CyberSec Guru估算，僅這兩個賬號在黑客“灰產(chǎn)”市場的總價值就超過了100萬美元。
說白了，這些短ID賬號在社交網(wǎng)絡上就是身份和權力的象征。黑客即便只持有幾天，也能通過出售、引流或冒充品牌獲取暴利。誰也沒想到，攻破這些“數(shù)字資產(chǎn)”堡壘的，竟然是Meta引以為傲的AI客服。
事實上，這在計算機安全領域被稱為經(jīng)典的“混淆代理”（Confused Deputy）問題。簡單來說，就是一個擁有高級權限的程序，被誘導誤用了這些權限，從而替權限較低的第三方辦事。
值得注意的是，這次的“代理人”不再是死板的代碼，而是一個基于概率的大語言模型。黑客發(fā)現(xiàn)，他們不需要編寫復雜的代碼去破解防火墻，只需要用特定的語言邏輯去“推”AI一把，就能讓這個客服助手乖乖交出修改賬號信息的權限。
業(yè)內分析人士指出，這正是AI代理（AI Agent）目前面臨的最大風險。傳統(tǒng)的程序是確定性的，有著硬編碼的條件判斷；而AI則是概率性的，它更像是一個可以被言語說服的“人”，而不是一個鐵面無私的守門員。
諷刺的是，Meta在2026年3月推出這款AI客服助手時，曾信誓旦旦地承諾它能“全天候提供可靠支持，解決幾乎任何賬戶問題”。結果不到三個月，這個“全能助手”就成了黑客手中的提款機，直接撕碎了Meta標榜的安全防線。
不過，在這場安全災難中，依然有一道防線守住了最后的底線。據(jù)知名安全專家布萊恩·克雷布斯（KrebsOnSecurity）透露，黑客承認，只要賬號開啟了多重身份驗證（MFA），他們的誘導攻擊就會失效。
哪怕是Instagram提供的最基礎的短信驗證碼（SMS MFA），也足以讓黑客無功而返。這再次證明了，在AI漏洞百出的今天，最原始、最簡單的物理驗證手段，反而成了最堅實的盾牌。
關鍵在于，Meta等科技巨頭在急于部署擁有高級權限的AI代理時，是否考慮到了后果。這些AI助手被賦予了修改、創(chuàng)建甚至刪除關鍵數(shù)據(jù)的權力，一旦被黑客“洗腦”，其破壞力遠超傳統(tǒng)的病毒軟件。
CyberSec Guru建議，Meta必須建立一套“最小權限架構”。這包括在任何賬號修改前進行帶外驗證、對AI發(fā)起的重置流程進行頻率限制，以及引入一套硬性的、不可逾越的確定性邏輯門檻，而不是全盤交給AI去“判斷”。
目前，Meta尚未對這一漏洞造成的具體損失金額做出最終說明，全球數(shù)億Instagram用戶也正處于對AI客服安全性的質疑之中。
后續(xù)，Meta能否在短時間內堵住AI邏輯漏洞、被盜的百萬美元賬號是否能被順利追回、以及各大科技公司是否會因此放緩AI代理的權限下放，均成為全球科技界關注的焦點，AI安全領域的走向仍充滿變數(shù)。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
