北京
5月14日消息，當(dāng)?shù)貢r(shí)間周五晚，Anthropic宣布暫停Claude Fable 5和Mythos 5兩款模型的全部客戶訪問。公司稱，美國政府以國家安全為由發(fā)布出口管制指令，要求暫停任何外國國民使用這兩款模型，無論其位于美國境內(nèi)還是境外，也包括Anthropic內(nèi)部的外國籍員工。為確保合規(guī)執(zhí)行，公司對所有用戶禁用了這兩款模型；其他Claude模型不受影響。
指令落下前，亞馬遜CEO安迪·賈西（Andy Jassy）曾與特朗普政府高級官員通話，提及Anthropic先進(jìn)模型的安全風(fēng)險(xiǎn)。The Information和Axios均將這次溝通列為政府采取行動的背景之一。
Anthropic官方聲明確認(rèn)，政府指令針對的是外國國民訪問權(quán)限。但由于公司難以在所有客戶中即時(shí)區(qū)分國籍，選擇了統(tǒng)一暫停。
The Information報(bào)道，政府公開指向的核心風(fēng)險(xiǎn)，是Fable 5可能存在繞過安全護(hù)欄的"越獄"方法，并被用于發(fā)現(xiàn)軟件漏洞或執(zhí)行敏感網(wǎng)絡(luò)安全任務(wù)。CyberScoop也報(bào)道稱，美國政府將這兩款模型視為國家安全風(fēng)險(xiǎn)。更大的背景則是，Anthropic此前已與特朗普政府在模型能否用于大規(guī)模監(jiān)控、致命自主武器等問題上存在長期分歧。
The Information援引兩位知情人士稱，賈西本周與特朗普政府高級官員通話時(shí)，提出了Anthropic模型的安全風(fēng)險(xiǎn)；Axios也報(bào)道稱，亞馬遜提交的一份緊急報(bào)告觸發(fā)了白宮內(nèi)部快速反應(yīng)。
亞馬遜發(fā)言人對The Information表示，作為服務(wù)大量私營和公共部門客戶的主要云廠商，政府就潛在安全風(fēng)險(xiǎn)征詢其意見并不罕見；當(dāng)這類溝通發(fā)生時(shí)，公司不會披露具體討論內(nèi)容。
自2023年以來，亞馬遜已向Anthropic投資130億美元，同時(shí)也是其云服務(wù)和算力的核心合作方。向政府提出風(fēng)險(xiǎn)提醒的，不是外部競爭者，而是Anthropic最重要的商業(yè)伙伴之一。
Anthropic認(rèn)為，政府擔(dān)心的并不是一個(gè)能廣泛繞過護(hù)欄的"通用越獄"。公司稱，它看到的演示只涉及少量已知、相對簡單的漏洞，而且其他公開可用模型也能發(fā)現(xiàn)類似問題。但指令已經(jīng)落地，公司只能先執(zhí)行暫停。
這次事件之后，企業(yè)客戶選擇AI供應(yīng)商時(shí)需要評估的東西多了一項(xiàng)：已經(jīng)部署的AI能力可能因出口管制、國家安全審查或合規(guī)執(zhí)行被臨時(shí)收回。模型能力、價(jià)格和穩(wěn)定性之外，政策連續(xù)性本身成了一個(gè)風(fēng)險(xiǎn)變量。（易句）
（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對）
本文來源：網(wǎng)易智能
責(zé)任編輯：
王鳳枝_NT2541
