大模型就是「造夢機」，Karpathy一語驚人！人類才是「幻覺問題」根本原因

AIGC動態歡迎閱讀

原標題：大模型就是「造夢機」，Karpathy一語驚人！人類才是「幻覺問題」根本原因

關鍵字：幻覺,模型,人類,問題,數據

文章來源：新智元

內容字數：7101字

內容摘要：新智元報道編輯：桃子 潤【新智元導讀】大模型就是「造夢機」！幻覺是LLM與生俱來的特性，而非缺陷。OpenAI科學家Andrej Karpathy獨特視角在AI社區掀起了激烈的討論。幻覺，早已成為LLM老生常談的問題。然而，OpenAI科學家Andrej Karpathy今早關于大模型幻覺的解釋，觀點驚人，掀起非常激烈的討論。在Karpathy看來：從某種意義上說，大語言模型的全部工作恰恰就是制造幻覺，大模型就是「造夢機」。另外，Karpathy的另一句話，更是被許多人奉為經典。他認為，與大模型相對的另一個極端，便是搜索引擎。「大模型100%在做夢，因此存在幻覺問題。搜索引擎則是完全不做夢，因此存在創造力問題」。總而言之，LLM不存在「幻覺問題」。而且幻覺不是錯誤，而是LLM最大的特點。只有大模型助手存在幻覺問題。對此，英偉達高級科學家Jim Fan分享了自己的看法，「令人著迷的是，最好的…

原文鏈接：點此閱讀原文：大模型就是「造夢機」，Karpathy一語驚人！人類才是「幻覺問題」根本原因

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。