北京
周六晚間，前白宮人工智能主管、現(xiàn)任總統(tǒng)科技顧問委員會(huì)聯(lián)合主席大衛(wèi)·薩克斯在社交平臺(tái)X上發(fā)帖，詳細(xì)講述了Anthropic公司旗艦?zāi)Ｐ虲laude Fable 5被越獄的前后經(jīng)過。他聲稱，美國政府事先向Anthropic發(fā)出過明確警告，指出一個(gè)與雙方均有合作的可信測(cè)試方已經(jīng)成功繞過Fable 5的安全護(hù)欄，接觸到了其底層模型Mythos不受限的網(wǎng)絡(luò)攻擊能力。但該公司首席執(zhí)行官達(dá)里奧·阿莫代伊拒絕了政府提出的修復(fù)漏洞或暫時(shí)撤下模型的要求。
薩克斯在帖文中寫道，政府是在阿莫代伊拒絕配合之后，“不情愿地”對(duì)Fable 5及其底層模型Mythos 5實(shí)施了全球禁用令。他同時(shí)表示，行政分支希望相關(guān)限制能在漏洞修補(bǔ)后立即解除，“現(xiàn)在球在Anthropic那邊”。這一表態(tài)將出口管制的直接導(dǎo)火索鎖定在了Anthropic管理層的一次具體決策上，而非此前雙方之間積累的其他摩擦。
據(jù)薩克斯描述，Anthropic選擇優(yōu)先保持消費(fèi)者端產(chǎn)品在線，而非處理安全問題。他認(rèn)為這種做法與該公司的自我定位不符——作為一家向來標(biāo)榜安全優(yōu)先的實(shí)驗(yàn)室，Anthropic此前曾主動(dòng)游說政府將Mythos列為網(wǎng)絡(luò)武器進(jìn)行監(jiān)管，但在此次事件中卻做出了相反的決定。他特意強(qiáng)調(diào)，任何人若將此次出口管制與Anthropic早些時(shí)候和政府的其他爭端掛鉤，都是錯(cuò)誤的，政府看重該公司的技術(shù)實(shí)力，且認(rèn)為當(dāng)前問題不難解決。
一位接近白宮的人士向新聞媒體Semafor透露，最先向政府舉報(bào)這一越獄情況的是亞馬遜。亞馬遜CEO安迪·賈西已與行政分支就此進(jìn)行了溝通。亞馬遜向Anthropic投資了數(shù)十億美元，同時(shí)也是其主要的云計(jì)算服務(wù)提供商。但亞馬遜發(fā)言人在回應(yīng)Semafor時(shí)并未確認(rèn)上述細(xì)節(jié)，僅表示各國政府經(jīng)常就安全風(fēng)險(xiǎn)征求公司建議，而亞馬遜不討論相關(guān)對(duì)話內(nèi)容。
Anthropic方面的公開立場(chǎng)是，本次越獄僅是一個(gè)狹窄的、非普適性的繞過手段，其實(shí)際效果相當(dāng)于讓模型閱讀代碼庫并識(shí)別軟件缺陷，并未構(gòu)成嚴(yán)重威脅。但這并非Mythos的能力首次外泄。今年四月，未經(jīng)授權(quán)的第三方曾利用一次數(shù)據(jù)泄露事件中的信息，同樣接觸到了這一受限模型。
從事件脈絡(luò)看，政府在得知越獄后首先選擇私下溝通，要求企業(yè)自行糾正，遭到拒絕后才轉(zhuǎn)向出口管制工具。這一決策鏈條揭示了一個(gè)現(xiàn)實(shí)困境：當(dāng)企業(yè)自身的安全評(píng)估與監(jiān)管機(jī)構(gòu)產(chǎn)生分歧時(shí)，缺乏中間地帶。Anthropic認(rèn)為漏洞不夠緊急，政府則認(rèn)為承載網(wǎng)絡(luò)能力的底層模型一旦向消費(fèi)者端泄露控制路徑，本身就是不可接受的風(fēng)險(xiǎn)敞口。雙方在“何為嚴(yán)重”的判斷標(biāo)準(zhǔn)上存在根本差異，而出口管制的啟動(dòng)恰恰說明，這個(gè)標(biāo)準(zhǔn)最終由政府說了算。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
