上海
研究現(xiàn)狀：據(jù)CNET于2026年5月20日報道，康奈爾大學和加州大學洛杉磯分校的相關(guān)研究人員發(fā)布了一項新研究，揭示了人工智能（AI）生成內(nèi)容對科學出版界的嚴重污染。研究團隊在分析2.5億篇科學論文的1.11億條參考文獻時，在四大主要研究數(shù)據(jù)庫中發(fā)現(xiàn)了高達146,900條由AI生成的虛假引用。
問題根源：大型語言模型（如ChatGPT和Gemini）存在產(chǎn)生“幻覺”的固有缺陷，往往會生成聽起來合理但完全錯誤的信息。如果科研人員在撰寫論文時依賴聊天機器人生成引用且不加核實，就會導致完全捏造的參考文獻出現(xiàn)在學術(shù)記錄中。研究發(fā)現(xiàn)，這種虛假引用并非集中在少數(shù)論文中，而是廣泛分布在大量文章里，表明許多研究人員未經(jīng)驗證就使用了AI生成的參考資料。
學界擔憂：虛假引用的泛濫正在侵蝕學術(shù)信任的基礎。威奇托州立大學管理學教授烏莎·哈利指出，虛假或AI生成的引用破壞了作為同行評審和累積知識基礎的學術(shù)記錄可信度。令人不安的是，這種懷疑情緒正來自學術(shù)界內(nèi)部和早期職業(yè)學者。這些虛假引用被發(fā)現(xiàn)的四大數(shù)據(jù)庫為arXiv、bioRxiv、SSRN和PubMed Central，這些科學存儲庫在全球研究領(lǐng)域發(fā)揮著關(guān)鍵作用。
應對措施：面對AI劣質(zhì)內(nèi)容對科學體系的沖擊，相關(guān)機構(gòu)已開始采取行動。arXiv于2026年5月19日（周二）宣布，將對提交包含幻覺引用或未經(jīng)仔細檢查的AI內(nèi)容論文的作者實施封禁。arXiv科學總監(jiān)施泰因·西古德森表示，科學文獻庫正在被稀釋，大量AI內(nèi)容要么是主動錯誤，要么毫無意義，這不僅讓尋找真實科研成果變得更困難，還可能誤導研究人員。
參考鏈接:
https://www.cnet.com/science/ai-making-up-citations-scientific-papers/
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
