這項創新演進之快,要求人們先于威脅一步,才能及時化解。人工智能正在重塑經濟、科學和公共服務,也在改變數字威脅的版圖。生成與真實幾乎無法區分的圖像、聲音和視頻的能力,給安全領域帶來了一個新階段:風險正以與技術相同的速度演變。
這正是當天第二場討論的核心議題。該場討論以“安全面臨的新挑戰及其應對”為題,聚焦與人工智能相關的新興風險,涵蓋網絡安全和虛假信息傳播等問題。
西班牙數據保護局主席辦公室副主任弗朗西斯科·佩雷斯·貝斯警告說:“如果我們不能先識別出人工智能帶來的風險,之后就不可能加以緩解。”他解釋稱,這項技術的迅速興起,正在重新激活一些原本似乎已得到控制的威脅,同時也在制造新的風險,尤其是在大規模數據處理、生物識別以及信息自動化利用等領域。
![]()
組織在考慮采取保護措施之前,首先必須準確理解,在引入這些工具時自己承擔了哪些風險。討論中,各方普遍擔憂的一個問題,是這場變化推進的速度。過去需要高級技術知識、時間和資源才能完成的事情,如今可以自動化執行,而且速度之快,傳統防御機制很難跟上。
在國家安全領域,這種現實尤為敏感。西班牙國家警察總情報局中央處處長勞拉·鮑斯·埃斯帕達警告,人工智能已經被用于身份冒充、發動網絡攻擊以及傳播虛假信息行動,使用者既包括犯罪分子,也包括敵對國家行為體。
在這些威脅中,所謂“深度偽造”尤為突出。鮑斯表示,借助人工智能重建語音、圖像和視頻的能力,正使辨別真實與篡改內容變得越來越困難。她回顧說,就在幾年前,這類偽造還相對容易識別。
![]()
但如今,她表示,這些技術已經可以被用來傳播假消息,并將其歸于公眾人物名下,進而加劇社會極化,或削弱公眾對民主制度的信任。這位警官還提到,歐洲近期已有案例顯示,基于人工智能的虛假信息傳播,甚至對選舉程序本身都造成了質疑。
不過,虛假信息只是問題的一部分。西班牙國家密碼中心副總干事哈維爾·坎道·羅梅羅談到了所謂“進攻型人工智能”的興起。這類系統專門用于尋找計算機漏洞,并以自動化方式開發攻擊手段。
![]()
他詳細解釋說,這些工具能夠分析應用程序、發現安全缺陷,并生成利用機制,其速度遠遠超過人類能力。多年來,行業一直相信,人工智能主要會增強防御能力。最近幾個月的進展已經打破了這種平衡。
哈維爾·坎道·羅梅羅指出,它們已經證明,自己能夠以極快速度發現漏洞、創建利用程序并發起攻擊,這使得眼下的防護變得更加困難。這位國家密碼中心專家進一步指出,風險在于,隨著這些工具越來越普及,發動復雜攻擊所需的技術門檻可能降低,潛在攻擊者的數量也會顯著增加。
![]()
數據治理也被視為一項重大挑戰。佩雷斯·貝斯指出,許多組織仍在沒有明確目的的情況下持續積累信息。因此,他強調,數據保護與安全不應被視為彼此對立的目標,而應被看作相互補充、需要保持平衡推進的兩個方面。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.