專治大模型說胡話，精確率100%！華科等提出首個「故障token」檢測/分類方法

AIGC動態(tài)歡迎閱讀

原標題：專治大模型說胡話，精確率100%！華科等提出首個「故障token」檢測/分類方法
關鍵字：故障,模型,報告,作者,數據
文章來源：新智元
內容字數：7183字

內容摘要：

新智元報道編輯：LRS
【新智元導讀】針對大模型偶發(fā)腦回路故障難題，最新研究GlitchHunter收集了大量故障詞元，并針對不同情況進行分類，極大改善了大模型的輸出質量。如今，大型語言模型（LLM）已經成為了我們生活中的好幫手。
當用戶使用大模型時，模型首先會將輸入的內容拆分成一個個的詞元（token），通過分析這些詞元來生成答案，為我們解答疑惑、提供建議、翻譯外語、撰寫報告······但是，你能想象大模型也會出錯嗎？
想象一下，你正在使用最新款的智能手機，它快速、聰明、幾乎可以做任何你想要的事情。
但偶爾，你發(fā)現手機的一兩個按鍵不按常理出牌——比如說，你按下「S」，它偏偏跳出「E」，或者干脆點了沒反應，那估計用的時候就只想砸手機了。
大模型中存在一些故障詞元（glitch token），一個個本應協助模型流暢運行的小小詞元，偏偏要搞點小破壞。針對這個情況，由華中科技大學、南洋理工大學等高校聯合組成的研究團隊近日發(fā)表了一項研究，該工作已經被軟件工程領域國際頂級會議——FSE 2024接收。論文鏈接：https://arxiv.org/abs/2404.09894
項目鏈接：http

原文鏈接：專治大模型說胡話，精確率100%！華科等提出首個「故障token」檢測/分類方法

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發(fā)展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。