人工智能公司一邊預(yù)警末日，一邊加速研發(fā)，引政府出手！

數(shù)字時(shí)代的技術(shù)革命，通常伴隨著樂觀與興奮。人們或許還記得，史蒂夫·喬布斯初次發(fā)布iPhone時(shí)，現(xiàn)場(chǎng)掌聲雷動(dòng)。相比之下，主要人工智能公司似乎采取了一種更陰暗、也更古怪的策略：它們鄭重其事地描述自家模型將帶來的危害，同時(shí)又表現(xiàn)得仿佛對(duì)此無能為力。

Anthropic最近就給出了一個(gè)典型案例。該公司發(fā)布了一份題為《當(dāng)人工智能構(gòu)建自身》的驚悚風(fēng)格報(bào)告，稱人工智能可能正接近這樣一種能力：能夠“自主設(shè)計(jì)并開發(fā)自己的繼任者”。公司一方面希望這種遞歸式自我改進(jìn)能給世界帶來“巨大益處”，另一方面也公開擔(dān)憂，這可能導(dǎo)致人類“失去對(duì)這些系統(tǒng)的控制”。

公眾對(duì)這份報(bào)告的反應(yīng)，主要集中在其中一個(gè)似乎呼吁全球暫停人工智能研發(fā)的部分。但如果仔細(xì)閱讀就會(huì)發(fā)現(xiàn)，暫停其實(shí)并不是Anthropic真正提出的方案。報(bào)告寫道，“如果有可能”放慢這項(xiàng)技術(shù)的發(fā)展，那么就應(yīng)該這樣做；但只要那些“最不謹(jǐn)慎”的參與者仍在全速推進(jìn)，Anthropic就暗示自己也別無選擇，只能跟進(jìn)。

Anthropic像一只把死鳥叼到你家門口的貓，逐條陳列其產(chǎn)品可能制造的陰暗未來，聳聳肩，然后繼續(xù)全力推進(jìn)，讓這些警告成真。

他還多次表示，人工智能工具必然會(huì)帶來經(jīng)濟(jì)破壞，而唯一的應(yīng)對(duì)方式將是由政府提供大規(guī)模財(cái)政支持，比如全民基本收入或公共財(cái)富基金。

不妨把這種策略稱為“末日釣魚”。這是當(dāng)下人工智能時(shí)代最鮮明、也最令人側(cè)目的特征之一。這種做法在道德上越來越難以成立。

人工智能公司進(jìn)行“末日釣魚”，其動(dòng)機(jī)實(shí)際上只有兩種可能。第一種，是它們真的相信自己正在打造的系統(tǒng)，有相當(dāng)概率引發(fā)大規(guī)模破壞性事件——最輕也會(huì)摧毀經(jīng)濟(jì)，最壞甚至可能讓人類滅絕。

如果真是這樣，那么任何講得通的倫理體系都會(huì)得出同一個(gè)結(jié)論：唯一可接受的回應(yīng)，就是立刻停止研發(fā)任何可能加速這一未來到來的產(chǎn)品，并動(dòng)用一切資源游說其他人工智能公司也采取同樣做法。從道德角度看，除此之外的任何反應(yīng)都近乎駭人。

風(fēng)險(xiǎn)投資人、人工智能顧問戴維·薩克斯最近還提出，Anthropic可能在利用制造恐慌的手法進(jìn)行“監(jiān)管俘獲”，以阻礙新興競(jìng)爭(zhēng)者。無論是哪一種原因，都意味著這些公司是在利用數(shù)百萬人的焦慮，去改善極少數(shù)大股東的財(cái)務(wù)前景。這種犬儒同樣令人難以接受。

談到人工智能，我們已經(jīng)太習(xí)慣這種無助、令人緊張的預(yù)言語氣，以至于忽視了它本身有多么怪異。設(shè)想一下，如果福特汽車公司發(fā)布一份報(bào)告，說它擔(dān)心暢銷的F-150皮卡很快會(huì)開始自燃，但公司對(duì)此無能為力，因?yàn)槠嚰夹g(shù)太不可阻擋、也太重要，無法放慢發(fā)展速度。你大概很難想象這種場(chǎng)景，因?yàn)槿魏卫硇缘南M(fèi)品公司都不會(huì)這樣行事。

人工智能公司完全可以像其他公司那樣行事。前提是，它們必須停止把人工智能當(dāng)作一種自己只能勉強(qiáng)引導(dǎo)的必然力量。事實(shí)并非如此。人工智能只是這些公司按照特定商業(yè)計(jì)劃，選擇設(shè)計(jì)并出售的一組具體工具。

因此，它們需要像談?wù)撊魏纹渌M(fèi)品一樣談?wù)撟约旱漠a(chǎn)品。這意味著要清楚說明產(chǎn)品面向誰、論證其益處，更關(guān)鍵的是，對(duì)產(chǎn)品可能造成的任何傷害承擔(dān)全部責(zé)任。人工智能如今披著高科技光環(huán)，并不意味著它可以例外于常識(shí)性的安全標(biāo)準(zhǔn)。

如果這些人工智能公司堅(jiān)持繼續(xù)假裝自己只是一個(gè)不可避免的反烏托邦未來的冷靜觀察者，那么或許該有人迫使它們面對(duì)現(xiàn)實(shí)。作為消費(fèi)者，我們可以拒絕參與這場(chǎng)“末日釣魚”游戲。下次Anthropic再發(fā)布危言聳聽的報(bào)告，或者薩姆·奧爾特曼在想象OpenAI將帶來的沖擊時(shí)聲音發(fā)顫，我們可以把話題拉回實(shí)際問題：“好吧，但我每月花1000美元買這些令牌，到底能得到什么好處？”

如果它們繼續(xù)不斷加碼末日敘事，那么也許該把恐懼轉(zhuǎn)化為嘲諷。Anthropic那些一本正經(jīng)、近乎偽科學(xué)的白皮書，已經(jīng)帶上了諷刺意味。當(dāng)前圍繞人工智能形成的時(shí)代氛圍，鼓勵(lì)人們對(duì)這些科技領(lǐng)袖憂心忡忡地俯首聽命，但這種局面也可能很快改變。

《紐約時(shí)報(bào)》已起訴OpenAI及其合作伙伴微軟，指控兩家公司在與人工智能系統(tǒng)相關(guān)的新聞內(nèi)容上侵犯版權(quán)。OpenAI和微軟否認(rèn)了這些指控。

政府在這里也可以發(fā)揮作用。特朗普總統(tǒng)最近簽署了一項(xiàng)行政命令，允許人工智能公司在模型發(fā)布前，自愿提交模型進(jìn)行風(fēng)險(xiǎn)評(píng)估。這個(gè)項(xiàng)目應(yīng)當(dāng)改為強(qiáng)制執(zhí)行。對(duì)于那些一邊夸耀自家產(chǎn)品的破壞潛力、一邊繼續(xù)不受約束地開發(fā)和營(yíng)銷這些產(chǎn)品的公司，政府應(yīng)當(dāng)愿意戳破它們的虛張聲勢(shì)，結(jié)束人工智能實(shí)驗(yàn)室既恐嚇公眾、又毫無限制推進(jìn)技術(shù)的時(shí)代。

值得注意的是，特朗普政府或許正以其一貫反復(fù)無常、難以捉摸的方式，跌跌撞撞地朝這個(gè)方向走去。今年4月，Anthropic宣布不會(huì)公開發(fā)布其新的大語言模型Claude Mythos Preview，因?yàn)樵撃Ｐ桶l(fā)現(xiàn)并利用軟件漏洞的能力，可能給經(jīng)濟(jì)和公共安全帶來“嚴(yán)重”后果。

該公司決定只向少數(shù)機(jī)構(gòu)提供這一模型，以便它們修補(bǔ)安全漏洞。這場(chǎng)行動(dòng)引發(fā)了廣泛恐慌和不安，但也提升了Anthropic作為重視安全的人工智能技術(shù)領(lǐng)導(dǎo)者的品牌形象。

近日，該公司發(fā)布了一個(gè)加入“護(hù)欄”后可供普遍使用的版本，以及另一個(gè)在某些方面解除安全限制、僅向少數(shù)群體提供的版本。特朗普政府以國(guó)家安全為由出人意料地表示反對(duì)，并將這些模型列入出口管制清單，迫使Anthropic暫時(shí)關(guān)閉訪問權(quán)限。

一種老練而冷淡的解讀是，Anthropic此前圍繞Mythos的種種憂慮表態(tài)不過是一場(chǎng)公關(guān)秀——畢竟并不清楚，為什么該公司近日加上的“護(hù)欄”，不能在4月首次宣布模型時(shí)就加上。照此來看，政府的做法在某種程度上也是在指出Anthropic的問題所在。

這些前沿實(shí)驗(yàn)室喜歡拿外部競(jìng)爭(zhēng)作理由，為自己盡可能快速推進(jìn)產(chǎn)品、擺脫任何有意義的監(jiān)管壓力辯護(hù)。盡管其中也有人——比如Anthropic首席執(zhí)行官達(dá)里奧·阿莫代伊——呼吁加強(qiáng)監(jiān)管。但地緣政治風(fēng)險(xiǎn)的管理是政府的職責(zé)，不是硅谷的職責(zé)。

20世紀(jì)90年代，美國(guó)生物技術(shù)行業(yè)擔(dān)憂基因工程工具的負(fù)面潛力時(shí)，并沒有為了搶在其他國(guó)家之前而匆忙推進(jìn)人類克??；相反，它們游說國(guó)會(huì)和相關(guān)國(guó)際機(jī)構(gòu)，試圖限制這些創(chuàng)新最惡劣的可能用途。別人可能會(huì)做壞事，并不能賦予你做類似事情的道德權(quán)利。

法院也可能成為推動(dòng)人工智能公司改變產(chǎn)品表述方式的壓力來源。十年前，社交媒體巨頭也處在與今天人工智能領(lǐng)軍企業(yè)相似的位置。它們?cè)噲D把自己應(yīng)用程序造成的明顯負(fù)面影響撇清責(zé)任，方法是把這些產(chǎn)品說成一種過于基礎(chǔ)、因而不應(yīng)受限的存在：一個(gè)代表通信與民主自然演進(jìn)的數(shù)字公共廣場(chǎng)。

但在今年3月一項(xiàng)具有里程碑意義的裁決中，陪審團(tuán)認(rèn)定Meta和谷歌應(yīng)對(duì)其社交媒體平臺(tái)造成的傷害承擔(dān)責(zé)任，并判處數(shù)百萬美元賠償。如今，還有數(shù)百起類似訴訟正在法院系統(tǒng)中推進(jìn)。這對(duì)這些公司構(gòu)成了重大威脅，因?yàn)樗鼈兌嗄陙硪恢笨苛钊松习a、扭曲心智的設(shè)計(jì)牟利，卻幾乎不受追究。