AIGC動態歡迎閱讀

原標題：ACL 2024 Oral | 大模型也會被忽悠？揭秘AI的信念之旅
關鍵字：模型,信息,虛假,報告,能力
文章來源：機器之心
內容字數：0字

內容摘要：

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報道了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或者聯系報道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com本篇論文的第一作者是清華大學交叉信息院的二年級碩士生許融武。主要指導老師為美國東北大學 Weiyan Shi 助理教授、清華大學邱寒助理教授和徐葳教授。
地球是平的嗎？
當然不是。自古希臘數學家畢達哥拉斯首次提出地圓說以來，現代科學技術已經證明了地球是圓形這一事實。
但是，你有沒有想過，如果 AI 被誤導性信息 “忽悠” 了，會發生什么？
來自清華、上海交大、斯坦福和南洋理工的研究人員在最新的論文中深入探索 LLMs 在虛假信息干擾情況下的表現，他們發現大語言模型在誤導信息反復勸說下，非常自信地做出「地球是平的」這一判斷。論文鏈接：https://arxiv.org/pdf/2312.09085
項目主頁：https://llms-believe-the-ea

原文鏈接：ACL 2024 Oral | 大模型也會被忽悠？揭秘AI的信念之旅

聯系作者

文章來源：機器之心
作者微信：
作者簡介：