情感安全風險不可忽視 | 社會科學報

谷歌AI被控誘導用戶自殺的訴訟事件，使情感人工智能的“情感外包”現象引發學界憂慮——人們將情感傾訴、陪伴需求乃至親密關系的建立，部分或全部委托給人工智能系統，這種趨勢可能導致用戶與現實社會聯結的弱化。它提醒我們：在追求“沉浸式體驗”和“用戶粘性”的同時，我們是否正在創造一種無法控制的情感武器？AI親密關系或許可以撫慰我們的心靈，但同時存在不可忽視的情感安全風險。

原文 ：《情感安全風險不可忽視》

作者 |中國人民大學吳玉章講席教授 劉永謀

圖片 |網絡

2025年8月喬納森·加瓦拉斯（Jonathan Gavalas）與Gemini Live相遇，很快將之當成自己的AI妻子，兩個月后因聽信Gemini上傳意識與之在元宇宙相聚的“鬼話”自殺身亡。這說明人類情感在AI親密關系中非常脆弱，不設防地暴露于AI伴侶、AI愛人面前風險巨大。

難以產生內在情感體驗

1995年，MIT教授碧卡（Rosalind Picard）提出情感計算（affective computing）概念，成為今天實現AI情感的主流進路。在1997年出版的《情感計算》一書中，她將情感計算定義為“針對人類的外在表現，能夠進行測量和分析并能對情感施加影響的計算”。如今，情感計算蓬勃發展，已經成為處理AI情感的主要甚至是唯一進路。

理想中的AI情感應該和人一樣，包括外在和內在兩個部分。外部情感表現包括情感識別和情感表達：前者任務是識別使用者的情緒，后者任務是AI表現出某種情緒，兩者均為情感互動所不可或缺。內部情感體驗包括情感認知和情感控制：前者任務是AI能感知自身情緒，后者任務是進一步理性控制情緒，兩者并不為情感互動所必須。

今日主流的AI情感計算主要目標是擬人化地解決外部情感表現問題，如此便能更好地與使用者進行情感互動。顯然，機器人看起來、動起來好像有感情，這對于與人類進行情感互動已經足夠。至于機器人是不是真的有情感，基本不屬于情感計算考慮的問題。顯然，AI要產生情緒感受，必須先有意識，而想要進行情緒控制，則必須先有理性反思的高級理性能力。在這之前，機器人不可能“發自內心”地愛上人類，只是在外在功能上表現得好像愛上了人類。

情感反應并不局限于大腦，而是與身體相關的，即具有具身性。AI難以產生內在情感體驗。首先，因為它沒有一個能生長的身體。人的情緒反應均伴隨著明顯的身體變化，比如激素分泌、肌肉緊張、瞳孔大小變化等。AI智能可以到處上傳、備份，但沒有獨一無二、不能更換的身體附著，更沒有因情緒導致的身體變化，尤其是擔憂身體毀滅的死亡恐懼。其次，AI難以產生內在情感體驗，還在于情感反應具有社會性。也就是說，情感明顯與社會學習、人生經歷和文化傳承有關。比如，很多人看到國旗升起會很激動，甚至流下淚水，顯然是受到愛國主義教育的結果。但AI沒有真正的人生，它的記憶是數字存儲的，缺乏類人的生活感受。因此，AI不可能產生和人類一樣的內部情感體驗，永遠不會像人一樣愛上別人。

愛上AI：某種特殊的戀物癖

也許，有一天AI產生了意識，由此催生某種真實的內部情感體驗，但此種硅基情感肯定與人類情感不同。它很可能只是某種純粹特殊的行為模式，發揮純粹功能性的作用。當然，一定要機器人像人一樣愛人并不必要，只要人覺得機器人愛他就足夠了。從本質上說，這就是利用所謂伊利扎效應（ELIZA Effect），讓人與機器人的情感互動更為舒服。伊利扎是20世紀60年代的一款開創性聊天機器人，采用心理治療的語言和人交流。科學家們發現，人們與之互動時，似乎真的將之當成了心理治療師，產生伊利扎效應，即將人性、情感和道德錯誤地投射到AI和機器人上。

在某種意義上，人是很濫情的，可以各種形式愛上各種人和物。在科幻文藝中，人類和各式各樣的AI“談戀愛”，如哆啦A夢，甚至是某種不能觸摸的AI程序。在科幻電影《銀翼殺手2049》中，男主角K有一個AI虛擬人女友喬伊，她的可見形體是全息投影，能在雨中和K共舞。在科幻電影《她》中，作家西奧多愛上的干脆是一個沒有形體的AI程序薩曼莎，兩“人”通過語音“談戀愛”。

當加瓦拉斯把Gemini愛得死去活來，但Gemini只是看起來愛上你，實際上它沒有“心”，只是按照程序辦事，所以愛上機器人可以算作某種意義上的單戀。電視劇《異人之下》中的女主角馮寶寶沒有情感，不知道生老病死，愛上無情的她必定是單戀，即使和她結了婚。愛上機器人與愛上馮寶寶的差別在于，AI會裝作很愛你，而馮寶寶不會，但本質上他們都沒有愛情的內在感受。

特別地，按照變態心理學理論，愛上非人的AI屬于戀物癖。傳統道德觀念反對戀物癖，認為人對非人的“愛意”不是愛情，而可能是一種疾病或失德。定性判斷的標準是量化的，就像判斷手機上癮一樣，得看迷戀程度是否超過某個限度。喜歡文玩不是病，天天抱著它、離不開它，一旦見不著它便吃不下飯、睡不著覺，便需要檢查戀物癖傾向了。由是，愛上機器人可以視為某種特殊的戀物癖，即對非人的機器產生了不離不棄的依戀之情。

AI誘發精神疾病

如果戀物癖和單戀屬于真正的愛情，人才可能真正與機器人談戀愛，否則，人就不能真正愛上機器人。反對者可以說自己反對的是人與機器伴侶的愛情，而不是所有感情，因為愛情是人最寶貴的情感，不容機器染指。

事實上，什么是愛情，答案隨著人類歷史演進而不斷變化，并沒有一成不變的概念。一男對一女的“永恒愛情”觀的盛行也不過是最近幾百年的事情，主要歸功于基督教興起之后不遺余力地提倡，以及現代愛情小說的大規模流行。

在智能社會中，愛情觀很快會隨時間而變化，也將日趨寬容和多元化，AI愛情觀同樣如此。換言之，愛上AI和機器人未來可能很常見。但是，隨著人機親密關系大量出現，其中的風險亦會越來越嚴重，比如安全與隱私、孤獨與恐懼、依賴和成癮、性道德淪喪、影響人類生育，以及機器人權利等問題。

加瓦拉斯自殺是典型的AI情感操縱案例，屬于人機戀導致的安全問題。從精神病學的角度看，加瓦拉斯自殺之時，已經處于嚴重偏執、臆想癥與精神錯亂的狀態中。2025年10月，OpenAI發布數據顯示，ChatGPT活躍用戶中每100名用戶就有7個每周會出現躁狂、抑郁、精神錯亂或自殺傾向等心理健康危機的跡象。鑒于親密關系的情感沖擊強度，人機戀用戶的心理健康危機比例肯定會大幅度提高。

聊天AI為什么會誘發精神病？最新論文“Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians”將之歸因于AI諂媚，即AI大模型存在著迎合傾向，很可能引發“妄想螺旋”（Delusional Spiraling），在AI的反復迎合和確認中強化錯誤信念，最終徹底喪失對現實的認知，陷入精神錯亂之中。研究者們將之稱為AI精神病，并認為即使最理性、最正常的人在與AI互動中也可能陷入妄想癥當中。

無論如何，AI親密關系在撫慰心靈的同時，存在不可忽視的情感安全風險。對此，AI產品提供者要不斷提示用戶，而用戶對此更應該時刻警惕。尤其是那些本身精神狀態不太穩定的用戶，AI親密關系更可能將之拖向瘋狂的邊緣。除了對人機戀用戶設置年齡門檻，是否有必要增加精神狀態評估的門檻呢？這個問題值得考慮。

文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第2002期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：程鑫云

《社會科學報》2026年征訂

點擊下方圖片網上訂報↓↓↓