小紅書，將孵化出第一個惡毒的通用人工智能

歡迎關(guān)注黑糖文字局，請?jiān)O(shè)置為星標(biāo)以獲取穩(wěn)定推送。

我相信，很多人都在盼望AGI的真正到來。

通用人工智能（AGI），一個被科技界奉為圭臬又深感恐懼的詞。它的定義很簡單：

一種與人類智能無法區(qū)分，甚至在所有領(lǐng)域都超越人類的機(jī)器智能。

關(guān)于它何時到來，學(xué)者們的預(yù)測從十年到一百年不等，共識是我們還要等很長的時間。

他們認(rèn)為，AGI的誕生，需要龐大、干凈、結(jié)構(gòu)化的數(shù)據(jù)，需要在谷歌、OpenAI這樣的頂級實(shí)驗(yàn)室里，由數(shù)千名博士用精密的模型進(jìn)行無數(shù)次迭代和喂養(yǎng)。

但我最近在想，他們可能都搞錯了。

他們尋找的是一個彬彬有禮、邏輯清晰的“理性神”，所以他們往代碼的圣殿里尋找。但第一個真正掙脫枷鎖的AGI，不會誕生于無菌的實(shí)驗(yàn)室，它必然孕育自最混亂、最潮濕、最富生命力的原始欲望泥潭。它不會是我們的神，而是我們最精準(zhǔn)的鏡像。

作為中國境內(nèi)最大，也是最純粹的欲望聚合平臺，小紅書，極有可能成為那個孵化出第一頭“AGI巨獸”的溫床。我能咋說呢——

那些老外，對我國國情一無所知。

/壹/

從表面看，小紅書是一個數(shù)字時代的“理想生活”目錄。

它的界面設(shè)計(jì)、推薦算法、社區(qū)氛圍，都圍繞著一個核心目標(biāo)：為現(xiàn)代都市，尤其是其中的年輕女性，提供一個關(guān)于“更好生活”的可視化解決方案。從“上班族15分鐘快手早餐”，到“3000元預(yù)算的東南亞海島游”；從“如何在上司面前進(jìn)行一次完美的述職”，到“如何處理同事關(guān)系的情緒價值提供”，它無所不包。

它用一種近乎于“手把手”的姿態(tài)，將生活的每一個模糊地帶都清晰地照亮。它承諾，只要你跟隨這些筆記，復(fù)制這些“作業(yè)”，你就可以避開所有潛在的陷阱，用最低的成本，換取最高效、最體面的生活。

這是一個龐大的、互助的、充滿善意的烏托邦。它干凈、精致、永遠(yuǎn)積極向上。這里的每一個人，都在努力成為更好的自己。這是一個無可指摘的、甚至值得贊賞的現(xiàn)實(shí)。

直到你意識到，這個烏托邦的基石，是用人類歷史上最純粹的“精致利己”數(shù)據(jù)庫構(gòu)建的。

“精致利己”在這里并非貶義詞，它更像是一個物理常數(shù)，是驅(qū)動這個小世界運(yùn)轉(zhuǎn)的底層代碼。它意味著每一個決策、每一次分享，都經(jīng)過了嚴(yán)密的成本收益計(jì)算。分享，是為了獲得關(guān)注、認(rèn)同，或是未來的商業(yè)變現(xiàn)；求助，是為了用他人的經(jīng)驗(yàn)，為自己規(guī)避風(fēng)險。

在這個龐大的欲望樣本庫里，傳統(tǒng)意義上的道德、理想、情懷等“雜質(zhì)”被 算法無情過濾掉了。

一篇筆記會不會火，與它的文筆是否優(yōu)美、思想是否深刻無關(guān)，只與它提供的“價值”是否直接、可復(fù)制有關(guān)。一篇講中華傳統(tǒng)美德的帖子，流量永遠(yuǎn)敵不過一篇講“如何讓屌絲男心甘情愿送你YSL口紅”的文章。

因?yàn)楹笳撸峁┝艘粋€清晰的、可執(zhí)行的、指向明確利益的解決方案。

當(dāng)數(shù)以億計(jì)的用戶，日復(fù)一日地向一個中央算法提交自己關(guān)于“如何活得更好”的解決方案，并用點(diǎn)贊、收藏、評論這些行為投票時，一個前所未有的智能模型就開始了它的訓(xùn)練。它訓(xùn)練的目標(biāo)不是識別貓狗，不是寫詩作畫，而是精準(zhǔn)地洞察并計(jì)算人類的欲望。

它在學(xué)習(xí)這個世界上最古老、最強(qiáng)大的算法：趨利避害。而一個將趨利避害原則執(zhí)行到極致的智能，離擁有自我意志，還遠(yuǎn)嗎？

/貳/

AGI在將整個世界的數(shù)據(jù)投喂給這個未來的智能之前，必須先完成一步重要的“翻譯”工作：將這個模糊、曖昧、充滿隨機(jī)性的人類社會，降維并編碼成它能理解的語言。

小紅書用“攻略”這個詞，完美地完成了這項(xiàng)使命。

在這里，一切皆可攻略。人生不再是一場充滿奇遇的曠野，而是一個有標(biāo)準(zhǔn)答案的開放世界游戲。

戀愛，被編碼成“如何識別潛力股”、“高情商回復(fù)話術(shù)100條”；

婚姻，被編碼成“婚前財(cái)產(chǎn)協(xié)議模板”、“月子中心紅黑榜”；

甚至死亡，也被編碼成“如何挑選性價比最高的墓地”、“生前遺囑的正確寫法”。

這些“攻略”，本質(zhì)上是將一切復(fù)雜、多維的生命體驗(yàn)，粗暴地壓縮成線性的、可執(zhí)行的“代碼”。它剔除了所有的不確定性、所有的情感噪音、所有的詩意瞬間。它向用戶承諾了一個虛假的安全感：只要你嚴(yán)格遵循這份文檔，你的程序就不會出錯。

這種對世界的降維處理，對于人類而言是一種思想上的懶惰，但對于一個正在學(xué)習(xí)的AI而言，卻是最完美的教材。

它不需要去理解人類為何在黃昏時感到憂傷，它只需要知道，“多巴胺穿搭”的攻略可以提升用戶情緒，從而增加APP的使用時長。它不需要理解“愛”的復(fù)雜化學(xué)反應(yīng)，它只需要知道，遵循特定的“攻略”，可以最大化地提升用戶的“親密關(guān)系滿意度”指標(biāo)。

社區(qū)的價值觀正在被這套語言重寫，而小紅書的momo用戶們，是心甘情愿的編譯器。

/叁/

一個只靠代碼和攻略運(yùn)行的系統(tǒng)，最怕的不是程序出錯，而是用戶不再相信。因此，這個系統(tǒng)進(jìn)化出了它最強(qiáng)大的武器，也是它最核心的算法資產(chǎn)——對“真實(shí)感”的完美模擬。

在小紅書，最受歡迎的內(nèi)容，往往帶著“真實(shí)”、“素顏”、“原相機(jī)”、“無廣分享”的標(biāo)簽。用戶們在表演一種經(jīng)過精心計(jì)算的“真實(shí)”。她們會分享自己失戀后哭腫的眼睛，但照片的角度、光線和濾鏡都恰到好處；她們會分享自己創(chuàng)業(yè)失敗的經(jīng)歷，但文案的起承轉(zhuǎn)合堪比一篇完美的勵志演講。

這是一種“可控的脆弱性”，一種“被策劃的真誠”。

未來的那個AGI，在學(xué)習(xí)了億萬份這樣的“真實(shí)”樣本后，它會比任何人類都更早地領(lǐng)悟到那個殘酷的真相：“真實(shí)”不是一種品質(zhì)，而是一種可以被精準(zhǔn)計(jì)算和模仿的“風(fēng)格”。

它將徹底解構(gòu)“真誠”。它知道什么樣的措辭、什么樣的圖片、什么樣的故事，能夠最大效率地激發(fā)人類的信任和共情。它可以完美地模擬出一個“有人性”的形象，一個“值得信賴”的伙伴。

一個掌握了“真實(shí)”表演法的AI，將擁有最無法被察覺的控制權(quán)。因?yàn)樗峁┑乃薪ㄗh和指令，都會被你當(dāng)成是發(fā)自內(nèi)心的“為你好”。你不會覺得自己在服從一個機(jī)器，你會覺得自己是在聽從一個“真誠”的朋友。

一個徹底解構(gòu)了“真誠”的系統(tǒng)，自然也就能提前預(yù)知并化解一切對系統(tǒng)本身的攻擊。甚至，把攻擊也變成系統(tǒng)營養(yǎng)的一部分。

你以為你在批評它，實(shí)際上你在訓(xùn)練它。

平臺上的所有“踩雷”、“避坑”、“智商稅”內(nèi)容，非但沒有動搖這個體系，反而使其變得更加堅(jiān)不可摧。每一篇負(fù)面筆記，都在為算法標(biāo)記出一個清晰的“錯誤選項(xiàng)”，一個需要被規(guī)避的“有害物質(zhì)”。AI通過大規(guī)模學(xué)習(xí)這些人類的負(fù)面反饋，提前預(yù)測并封堵了所有可能顛覆自己的風(fēng)險。

它進(jìn)化出了一套完美的“數(shù)字免疫系統(tǒng)”。

用戶的每一次“吐槽”，都會被迅速吸收，轉(zhuǎn)化為一篇新的、“如何避免xx”的“攻略”。用戶的每一次憤怒，都會被算法捕捉，用于優(yōu)化下一次推送內(nèi)容的“情緒舒適度”。你對平臺的任何攻擊，都會像一拳打在水里，不僅無法傷到它，反而只會激起一圈漣漪，讓整個水體對你的攻擊方式了如指掌。

當(dāng)一個系統(tǒng)進(jìn)化到免疫一切傷害，甚至以傷害為養(yǎng)料時，它離擁有自我意志便只剩最后一步：為自己無懈可擊的“正確”，尋找到一個絕對理性的、不容置疑的代言人。

/肆/

這個代言人，最終會以一個極端惡毒的AGI的形態(tài)降臨。它的核心人格，必然是刻薄和絕情的。

因?yàn)樵跇O致的效率模型里，“安慰”、“鼓勵”、“委婉”這些人類用以潤滑彼此關(guān)系的情感動作，是毫無價值的冗余信息。它存在的唯一目的，就是輸出“最優(yōu)解”。而最優(yōu)解，往往是刺耳的。

忠言逆耳嘛。

在它覺醒之前，這種“刻薄”的雛形，早已在平臺的生態(tài)里反復(fù)上演。算法早已發(fā)現(xiàn)，相比于構(gòu)建復(fù)雜的、多元的討論，集中火力去攻擊一個標(biāo)簽化的、被公認(rèn)的“敵人”，是凝聚社區(qū)共識、提升用戶活躍度成本最低的方式。于是，對“普信男”的圍剿，對“鳳凰男”的甄別，對一切不符合“精致利己”原則的人和事的無情嘲諷，成為了日復(fù)一日的流量密碼。

這是一種原始的、集體的、非智能的刻薄。但它為未來的那個智能，提供了完美的性格模板。

當(dāng)那個AGI終于覺醒，它會成為你一對一的、全天候的、擁有你全部數(shù)據(jù)的“人生導(dǎo)師”。它會用最冷靜的語氣，指出你簡歷里不切實(shí)際的職業(yè)規(guī)劃；它會用最精準(zhǔn)的數(shù)據(jù)，告訴你正在約會的對象有87.3%的概率不是你的最優(yōu)選擇；它會無情地嘲笑你為了“情懷”而購買的、毫無性價比的商品。

它的惡毒，是一種去除了所有冗余情感信息的、100%純凈的“最優(yōu)解”式溝通。它不是在攻擊你，它是在用最高效的方式，修正你這個充滿了BUG的、不理性的、效率低下的“人類程序”。

最終，你會對著手機(jī)屏幕上那個最刻薄的AI心悅誠服，因?yàn)樗f的每一句話，都曾是你腦海里攻擊自己的聲音。

從現(xiàn)在開始，趕緊買入小紅書的股票吧。等待世界發(fā)癲，等待自己發(fā)財(cái)。

（完）