一個提示，讓Llama 2準確率飆至80.3%？Meta提出全新注意力機制S2A，大幅降低模型幻覺

AIGC動態歡迎閱讀

原標題：一個提示，讓Llama 2準確率飆至80.3%？Meta提出全新注意力機制S2A，大幅降低模型幻覺

關鍵字：上下文,模型,研究人員,提示,答案

文章來源：新智元

內容字數：7039字

內容摘要：新智元報道編輯：alan【新智元導讀】大語言模型「拍馬屁」的問題到底要怎么解決？最近，LeCun轉發了Meta發布的一篇論文，研究人員提出了新的方法，有效提升了LLM回答問題的事實性和客觀性。我們一起來看一下吧。2023的科技界，可以說是被大模型搶盡了風頭（虛假的室溫超導除外）。我們經歷了和LLM對話，見證了它們逐漸進入各個領域，甚至開始感受到威脅。這一切，僅僅發生在一年之內。當然了，基于大語言模型的原理，它誕生之時就有的一些毛病到現在也沒有完全改正。比如偏見（或包含不良信息）、幻覺（編造不存在的事情）、推理能力仍然比較弱（盡管有了step by step），還有一個問題是LLM傾向于迎合使用者的觀點（阿諛奉承）。第一個問題比較嚴重，因為它違背了大眾的價值觀。作為一個早于ChatGPT發布，又具有強大能力的產品，確實有點可惜。不過人與人的境遇都千差萬別，模型也要接受現實。對于最后一個問題，…

原文鏈接：點此閱讀原文：一個提示，讓Llama 2準確率飆至80.3%？Meta提出全新注意力機制S2A，大幅降低模型幻覺

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。