DeepMind終結大模型幻覺？標注事實比人類靠譜、還便宜20倍，全開源

AIGC動態歡迎閱讀

原標題：DeepMind終結大模型幻覺？標注事實比人類靠譜、還便宜20倍，全開源
關鍵字：事實,事實性,模型,注釋,長篇
文章來源：機器之心
內容字數：5592字

內容摘要：

機器之心報道
編輯：杜偉DeepMind 這篇論文一出，人類標注者的飯碗也要被砸了嗎？
大模型的幻覺終于要終結了？
今日，社媒平臺 reddit 上的一則帖子引起網友熱議。帖子討論的是谷歌 DeepMind 昨日提交的一篇論文《Long-form factuality in large language models》（大語言模型的長篇事實性），文中提出的方法和結果讓人得出大膽的結論：對于負擔得起的人來說，大語言模型幻覺不再是問題了。我們知道，大語言模型在響應開放式主題的 fact-seeking（事實尋求）提示時，通常會生成包含事實錯誤的內容。DeepMind 針對這一現象進行了一些探索性研究。
首先，為了對一個模型在開放域的長篇事實性進行基準測試，研究者使用 GPT-4 生成 LongFact，它是一個包含 38 個主題、數千個問題的提示集。然后他們提出使用搜索增強事實評估器（Search-Augmented Factuality Evaluator, SAFE）來將 LLM 智能體用作長篇事實性的自動評估器。
對于 SAFE，它利用 LLM 將長篇響應分解為一組單獨的事實，并使用

原文鏈接：DeepMind終結大模型幻覺？標注事實比人類靠譜、還便宜20倍，全開源

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺