大模型「幻覺」，看這一篇就夠了 | 哈工大華為出品

AIGC動態(tài)歡迎閱讀

原標題：大模型「幻覺」，看這一篇就夠了 | 哈工大華為出品

關(guān)鍵字：幻覺,模型,上下文,小米,華為

文章來源：量子位

內(nèi)容字數(shù)：7309字

內(nèi)容摘要：西風 發(fā)自 凹非寺量子位 | 公眾號 QbitAI大模型“幻覺”，終于有系統(tǒng)綜述了！一口氣49頁，詳細闡述了幻覺定義、分類、導致幻覺的原因，還有檢測幻覺、減輕幻覺的方法。這篇最新綜述來自哈工大和華為，一po出就在網(wǎng)上火得不行：具體來說，文中用一套新的范疇框架來定義模型幻覺，并將其分為事實性幻覺、忠實性幻覺兩大類。此外，它還總結(jié)了模型產(chǎn)生幻覺的三大來源：數(shù)據(jù)源、訓練過程和推理，并給出了對應的減輕幻覺策略。一圖預覽，觀感是這樣嬸兒的：可謂清晰又明了。目前相關(guān)推文瀏覽15萬+，轉(zhuǎn)贊收藏2000+，網(wǎng)友紛紛評論：找時間好好看。還有一位網(wǎng)友的評論亮了：有意思的是，論文太長，我得用ChatGPT幫我讀。幻覺作為大模型的一種“通病”，找到了病根，也好對癥下藥。北大數(shù)學教授董彬也曾講，作為研究者，自己其實是比較喜歡大模型幻覺的：因為幻覺和創(chuàng)造/創(chuàng)新其實只有一線之隔。那么這篇綜述具體如何解剖大模型幻覺現(xiàn)象？…

原文鏈接：點此閱讀原文：大模型「幻覺」，看這一篇就夠了 | 哈工大華為出品

聯(lián)系作者

文章來源：量子位

作者微信：QbitAI

作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破