幻覺不是缺陷反而是優勢！OpenAI大神認為大模型是“造夢機”

AIGC動態歡迎閱讀

原標題：幻覺不是缺陷反而是優勢！OpenAI大神認為大模型是“造夢機”
關鍵字：幻覺,創造力,人類,問題,內容
文章來源：夕小瑤科技說
內容字數：4199字

內容摘要：

?
?夕小瑤科技說 原創作者 | Tscom
通常情況下，人們對LLM產生的幻覺、虛假陳述等現象感到擔憂，覺得有必要對這些LLM進一步優化以避免幻覺和虛假陳述等情況的產生。近日，OpenAI現任知名科學家、特斯拉前AI總監Andrej Karpathy在X（前）上發文表示，他不認為幻覺是LLM的一個缺陷；相反，這是LLM強大力量的體現。
LLM會產生幻覺是工作的本質而不是bugLLM的幻覺是指當模型生成的文本不遵循原文（Faithfulness）或者不符合事實（Factualness）的現象。這種現象的產生是因為LLM在處理自然語言時，雖然能夠模擬人類的語言表達方式，但實際上并不能真正理解語義背后的含義。
例如，當人們詢問LLM“請給我講一下孫悟空三打諸葛亮的故事”時，即使這兩者沒有交集，ChatGPT仍然煞有介事地生成一個看似合理的答案。然而，這個答案可能并不準確，甚至可能與實際情況完全相反。
LLM幻覺的產生主要有兩個原因。首先，語言模型基于大量的語料庫進行訓練，這些語料庫可能包含了大量的噪音和無關信息，導致模型難以從中提取到真正的語義信息。其次，語言模型缺乏對外部世界的知識和

原文鏈接：幻覺不是缺陷反而是優勢！OpenAI大神認為大模型是“造夢機”

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。