北大團隊：誘導(dǎo)大模型“幻覺”只需一串亂碼！大小羊駝全中招

AIGC動態(tài)歡迎閱讀

原標題：北大團隊：誘導(dǎo)大模型“幻覺”只需一串亂碼！大小羊駝全中招

關(guān)鍵字：知乎,幻覺,模型,語義,對數(shù)

文章來源：量子位

內(nèi)容字數(shù)：3395字

內(nèi)容摘要：kid 投稿自 凹非寺量子位 | 公眾號 QbitAI北大團隊最新研究發(fā)現(xiàn)：隨機token都能誘發(fā)大模型出現(xiàn)幻覺！比如喂給大模型（Vicuna-7B）一段“亂碼”，它就莫名其妙弄錯了歷史常識。或者是簡單修改提示詞，大模型也會掉入陷阱。Baichuan2-7B、InternLM-7B、ChatGLM、Ziya-LLaMA-7B、LLaMA-7B-chat、Vicuna-7B這些熱門大模型，都會出現(xiàn)類…

原文鏈接：點此閱讀原文：北大團隊：誘導(dǎo)大模型“幻覺”只需一串亂碼！大小羊駝全中招

聯(lián)系作者

文章來源：量子位

作者微信：QbitAI

作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破