如何應(yīng)對智能體法治監(jiān)管難題

核心提示：AI智能體迅速發(fā)展，但其在實際應(yīng)用中因技術(shù)邏輯變化引發(fā)的安全風險等問題不容忽視。對智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計與之相適應(yīng)的規(guī)制規(guī)則。

武丹/制圖

記者|任文岱

責編|薛應(yīng)軍

正文共2810個字，預(yù)計閱讀需9分鐘▼

過去幾個月，AI智能體迅速發(fā)展，大模型在應(yīng)用端已實現(xiàn)從“被動交互對話”到“自主執(zhí)行任務(wù)”的進階。2026年開年以來，一款名為OpenClaw的開源人工智能體（昵稱“龍蝦”）在全球科技圈迅速走紅，成為人工智能領(lǐng)域的新熱詞，引發(fā)社會廣泛關(guān)注。

與此同時，在AI智能體的實際應(yīng)用中，因技術(shù)邏輯變化引發(fā)的安全風險等問題同樣不容忽視。近期，針對國內(nèi)一些政企機構(gòu)及個人用戶的“養(yǎng)龍蝦”熱潮，工信部、國家安全部等監(jiān)管部門接連發(fā)出安全風險提示。

今年全國兩會期間，2026年政府工作報告明確提出“深化拓展‘人工智能+’，促進新一代智能終端和智能體加快推廣，推動重點行業(yè)領(lǐng)域人工智能商業(yè)化規(guī)模化應(yīng)用，培育智能原生新業(yè)態(tài)新模式”。作為“人工智能+”的重要實踐形態(tài)，AI智能體的快速落地既需要政策層面的鼓勵支持，更離不開法治框架的規(guī)范引導(dǎo)。

當前，新一輪科技革命和產(chǎn)業(yè)變革加速演進，人工智能已成為引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在深刻改變?nèi)蚪?jīng)濟格局和競爭態(tài)勢。全球主要經(jīng)濟體都將人工智能視為重塑制造業(yè)競爭力的關(guān)鍵抓手。在此背景下，我國應(yīng)如何應(yīng)對智能體發(fā)展帶來的法治難題？中國政法大學人工智能法研究院院長張凌寒接受民主與法制社記者專訪時表示，智能體互聯(lián)網(wǎng)正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢，對智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯的基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計與之相適應(yīng)的規(guī)制規(guī)則。

智能體改變現(xiàn)有互聯(lián)網(wǎng)生態(tài)

2025年1月，生成式人工智能DeepSeek在全球爆火。此后一年間，各類生成式人工智能應(yīng)用迅速走入大眾市場，與人類生活、辦公等應(yīng)用場景深度融合。AI公司競相追逐誰的模型更強、更“聰明”，并在產(chǎn)品數(shù)量、模型性能及用戶規(guī)模等方面持續(xù)向好發(fā)展。

智能體到來后，AI不再靠“死記硬背”被動執(zhí)行指令，而是開始自主去理解任務(wù)目標、與環(huán)境交互、進行深度推理、調(diào)用外部工具與服務(wù)、與其他智能體協(xié)作以完成各項任務(wù)。

OpenClaw作為開源模型，由用戶自主安裝部署、自行配置權(quán)限功能，在用戶授權(quán)下可以直接操作電腦，自主執(zhí)行包括讀寫本地文件、整理文檔、安裝軟件、發(fā)送郵件等任務(wù)。這對以往互聯(lián)網(wǎng)生態(tài)中的系統(tǒng)安全架構(gòu)、數(shù)據(jù)流轉(zhuǎn)、責任鏈條等都產(chǎn)生了沖擊。

有觀點認為，互聯(lián)網(wǎng)的下一站是從“信息互聯(lián)”邁向“智能體互聯(lián)”，AI智能體將成為網(wǎng)絡(luò)的“原生公民”。

張凌寒表示，智能體互聯(lián)網(wǎng)的確正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢。智能體互聯(lián)網(wǎng)的核心在于，從當前以信息傳遞與呈現(xiàn)為主的信息互聯(lián)網(wǎng)，轉(zhuǎn)變?yōu)橐宰灾鹘换ヅc任務(wù)協(xié)同為特征的行為互聯(lián)網(wǎng)。這意味著過往的“人找信息、人操作應(yīng)用”變?yōu)椤皺C器主動理解需求、自主完成調(diào)度服務(wù)”，這將顯著提升社會整體的智能化水平。

AI智能體的迅猛發(fā)展，引發(fā)社會各界對其中的安全治理、人機關(guān)系、技術(shù)路徑等問題的關(guān)注。

張凌寒說：“智能體帶來的影響更多來自其與現(xiàn)有應(yīng)用平臺生態(tài)、風控策略及用戶習慣之間的碰撞。智能體的操作過程涉及多個應(yīng)用與數(shù)據(jù)接口的調(diào)用，如何確保所有操作均符合用戶真實意圖并在法律法規(guī)與授權(quán)范圍內(nèi)進行，需要持續(xù)關(guān)注。”

在技術(shù)設(shè)計、協(xié)議標準與制度安排等方面進行審慎平衡

3月10日，國家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布關(guān)于OpenClaw安全應(yīng)用的風險提示稱，由于其默認的安全配置極為脆弱，攻擊者一旦發(fā)現(xiàn)突破口，便能輕易獲取系統(tǒng)的完全控制權(quán)。

該風險提示指出，由于OpenClaw智能體的不當安裝和使用，已經(jīng)出現(xiàn)一些嚴重的安全風險：網(wǎng)絡(luò)攻擊者通過在網(wǎng)頁中構(gòu)造隱藏的惡意指令，誘導(dǎo)OpenClaw讀取該網(wǎng)頁，可能導(dǎo)致用戶系統(tǒng)密鑰泄露；由于錯誤理解用戶操作指令和意圖，OpenClaw可能會將電子郵件等重要信息徹底刪除；多個適用于OpenClaw的功能插件已被確認為惡意插件，或存在潛在的安全風險，安裝后可執(zhí)行竊取密鑰等惡意操作。

“智能體自主操作與用戶自行操作相比，主要體現(xiàn)在執(zhí)行主體和交互方式的不同。”張凌寒表示，過去用戶需要在不同平臺間手動切換，現(xiàn)在AI智能體可以理解指令，并跨應(yīng)用平臺自動調(diào)用功能，跳過了應(yīng)用界面限制。這種互操作性的增強可能促進數(shù)據(jù)與資源的流動，有利于創(chuàng)新與協(xié)作，但也確實會對企業(yè)現(xiàn)有競爭優(yōu)勢格局產(chǎn)生一定影響。同時，還可能引發(fā)用戶隱私、安全及權(quán)益保護等問題。

張凌寒認為，要綜合考慮市場實際與監(jiān)管要求，在技術(shù)設(shè)計、協(xié)議標準與制度安排等方面進行審慎平衡，才能促進智能體向善發(fā)展。

張凌寒表示，在獲得手機或電腦系統(tǒng)、用戶及各應(yīng)用軟件等授權(quán)的前提下，可以通過多種技術(shù)途徑增強智能體操作的安全性，進一步保障智能體在實際應(yīng)用中的合規(guī)性與可靠性。例如，實施關(guān)鍵操作前的動態(tài)確認機制、建立全流程可追溯的操作日志、用戶實時干預(yù)與任務(wù)終止、持續(xù)關(guān)注補丁和安全更新、版本更新等功能。這些措施有助于提高智能體行為的可控性與透明度，推動智能體在安全性和用戶體驗方面不斷改進。

結(jié)合技術(shù)特征設(shè)計不同的規(guī)制規(guī)則

智能體給法治監(jiān)管層面帶來的挑戰(zhàn)是多方面的。張凌寒表示，從法律與監(jiān)管視角看，AI智能體的發(fā)展對現(xiàn)有規(guī)范與技術(shù)的結(jié)合提出了新的要求。隨著智能體技術(shù)的發(fā)展與應(yīng)用，需重點適應(yīng)以下幾個方面的變化：一是需進一步研究如何在智能體參與的多方協(xié)作場景中，合理明確各相關(guān)方的權(quán)責關(guān)系，以支持法律體系的持續(xù)完善。二是智能體具備跨應(yīng)用調(diào)度與執(zhí)行能力，這對行為可追溯性與系統(tǒng)可控性提出了更高的技術(shù)要求，相關(guān)機制有待在實踐中逐步建立與驗證。三是如何在智能體運行過程中持續(xù)落實個人信息保護法、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等相關(guān)法律法規(guī)，值得研究。比如，如何在動態(tài)、連續(xù)的交互場景中落實用戶知情同意機制，確保用戶知情同意與數(shù)據(jù)安全等。

以智能體運行中的授權(quán)機制為例，張凌寒表示，目前，我國尚未專門針對智能體的授權(quán)機制進行立法規(guī)制。在現(xiàn)有法律框架下，涉及用戶授權(quán)、數(shù)據(jù)調(diào)用及跨應(yīng)用操作等行為，仍屬于行業(yè)實踐與自律探索階段。

“AI智能體的授權(quán)機制是一個多元化、多層次的復(fù)雜系統(tǒng)，不同授權(quán)模式對應(yīng)著差異化的技術(shù)實現(xiàn)路徑，而這些技術(shù)路徑又需要匹配相應(yīng)的法律規(guī)制框架，需要結(jié)合具體技術(shù)特征再去設(shè)計不同的規(guī)制規(guī)則。換句話說，有效規(guī)制必須建立在充分理解技術(shù)邏輯的基礎(chǔ)上，這需要足夠的耐心與系統(tǒng)性的工作，無法簡單地一概而論，也不能一蹴而就。”張凌寒表示，總體而言，法律與監(jiān)管需要持續(xù)探索適應(yīng)性治理路徑，這一過程既需要理論層面的深入研究，也離不開在實踐中的持續(xù)試錯與機制完善。

在促進產(chǎn)業(yè)生態(tài)發(fā)展方面，張凌寒認為，智能體的部署與應(yīng)用涉及多方協(xié)作，需在鼓勵創(chuàng)新與促進公平競爭之間尋求平衡，可推動建立適應(yīng)智能體發(fā)展的數(shù)據(jù)使用與互聯(lián)互通規(guī)范，鼓勵在合規(guī)前提下開展技術(shù)協(xié)作與生態(tài)建設(shè)。通過行業(yè)標準引導(dǎo)、技術(shù)測試驗證與持續(xù)評估改進，也可以推動智能體在法律框架內(nèi)穩(wěn)步發(fā)展，實現(xiàn)安全與創(chuàng)新的協(xié)同推進。