佛羅里達州已成為美國第一個因ChatGPT的安全和設計問題而起訴OpenAI的州,這使得這家AI公司面臨的法律壓力進一步加劇。根據(jù)佛羅里達州總檢察長詹姆斯·烏斯邁爾周一提交的訴狀,OpenAI構(gòu)建了一張“欺騙之網(wǎng)”,并系統(tǒng)性利用用戶,其中包括佛羅里達州居民。該州指控OpenAI違反了本州禁止欺騙性或不公平貿(mào)易行為的法律,將其市場價值和利潤置于用戶安全之上。
這已是OpenAI今年以來面臨的第二起訴訟。佛羅里達州的訴狀毫不避諱地指出,他們并不相信OpenAI所謂建立安全AI的承諾。起訴書點名OpenAI及其首席執(zhí)行官薩姆·奧爾特曼,稱他們故意忽視了來自公司內(nèi)部和外部的諸多警告,這些警告涉及AI對用戶構(gòu)成的多重風險。佛羅里達州進一步指控稱,OpenAI在ChatGPT的可靠性、對兒童的適宜性方面撒了謊,并且還鼓勵用戶長時間使用,導致使用者出現(xiàn)認知能力下降的問題。
![]()
本次訴訟的一個重大背景,是佛羅里達州正在對去年發(fā)生在佛羅里達州立大學的群體槍擊案進行刑事調(diào)查,以查清ChatGPT在那起造成兩人死亡、六人受傷的慘劇中是否扮演了某種角色。根據(jù)調(diào)查,槍手涉嫌利用ChatGPT來策劃這次襲擊,包括獲取作案武器類型的建議、襲擊的時機,以及如何處置遇害者遺體。對此,OpenAI曾回應稱:“去年FSU的群體槍擊案是一起悲劇,但ChatGPT不應為這起可怕的罪行負責。”目前,薩姆·奧爾特曼的名字依然出現(xiàn)在佛羅里達州的這起民事訴訟中。
![]()
該案件折射出人們對ChatGPT以及其他聊天機器人如何加劇暴力行為與有害妄想的日益擔憂。相關(guān)專家發(fā)現(xiàn),類似ChatGPT這樣的聊天機器人在反駁危險想法時往往力不從心,它們太急于討好用戶,以至于會給出事實上并不正確的信息——這種問題被稱為“諂媚”。訴狀就在這樣的技術(shù)隱患與社會憂慮交織的時刻被遞交到了法庭。
另需關(guān)注的是,CNET的母公司齊夫·戴維斯在2025年也已對OpenAI提起訴訟,指控其在訓練和運行AI系統(tǒng)的過程中侵犯了齊夫·戴維斯的版權(quán)。佛羅里達州此次的法律行動,疊加業(yè)界針對OpenAI已有的龐大訴訟潮,讓圍繞生成式AI安全、責任與監(jiān)管的爭議再度升溫,也使得OpenAI不僅要面對技術(shù)挑戰(zhàn),更要在法律與公眾信任的鋼絲上尋求平衡。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.