AIGC動態歡迎閱讀

原標題：AI也會做夢嗎？什么是AI幻覺？
關鍵字：報告,幻覺,政策,模型,上下文
文章來源：人工智能學家
內容字數：0字

內容摘要：

AI幻覺，簡單來說，是指人工智能系統（自然語言處理模型）生成的內容與真實數據不符，或偏離用戶指令的現象，就像人類說“夢話”一樣~
那么AI幻覺有哪些？是什么原因產生的？我們該如何避免AI幻覺呢？
1AI會產生什么樣的幻覺？可能有的小伙伴說：“我知道了！AI‘胡說八道’就是AI幻覺唄？”
其實也沒這么簡單，AI幻覺主要有兩類。事實幻覺：“假新聞制造機”A：事實不一致：AI生成的內容與現實世界事實相矛盾
當被問及“世界上最高的山峰是哪座？”，如果AI回答“深圳塘朗山是世界上最高的山峰。”
這就是一個事實不一致的例子，因為塘朗山坐落于廣東省深圳市，海拔430米遠低于珠穆朗瑪峰8848.86米，這個回答與現實世界的事實相矛盾。
B：事實捏造：AI生成完全虛構的內容如果AI描述說“2024年，考古學家在埃及金字塔內發現了一座隱藏的密室，里面藏有古代法老的寶藏和未知的高科技裝置。”
這就是完全虛構的信息，截至目前沒有考古發現或科學證據表明埃及金字塔內存在未被發現的密室，更不用說藏有古代法老的寶藏或未知的高科技裝置了。忠誠度幻覺：“指令迷失”A：指令不一致：AI的回答偏離用戶的要求如果用戶要求AI“

原文鏈接：AI也會做夢嗎？什么是AI幻覺？

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：