語義熵識破LLM幻覺！牛津大學新研究登Nature

AIGC動態歡迎閱讀

原標題：語義熵識破LLM幻覺！牛津大學新研究登Nature
關鍵字：語義,答案,問題,模型,不確定性
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：alan
【新智元導讀】近日，來自牛津大學的研究人員推出了利用語義熵來檢測LLM幻覺的新方法。作為克服混淆的策略，語義熵建立在不確定性估計的概率工具之上，可以直接應用于基礎模型，無需對架構進行任何修改。時至今日，大語言模型胡編亂造的情況仍屢見不鮮。
不知大家面對LLM的一本正經胡說八道，是輕皺眉頭，還是一笑而過？
俗話說，大風起兮云飛揚，安得猛士兮走四方。LLM幻覺任何時候都要除掉，不除不行。
試想，當你搜索一個簡單語法時，網頁上排名前幾的都是由大模型生成的錯誤答案，測過之后才發覺浪費了生命。
如果LLM涉及了醫學、法律等專業領域，幻覺將造成嚴重的后果，所以相關的研究也從未停止。
近日，來自牛津大學的研究人員在Nature上發表了利用語義熵來檢測LLM幻覺的新方法。
論文地址：https://www.nature.com/articles/s41586-024-07421-0
牛津大學計算機科學家Sebastian Farquhar等人，通過設計基于LLM確定的語義熵（相似性），來度量大模型答案中語義層面的不確定性。
做法是讓第一個LLM針對同一問題多次產生答案，并由

原文鏈接：語義熵識破LLM幻覺！牛津大學新研究登Nature

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。