GPT-4不知道自己錯了！ LLM新缺陷曝光，自我糾正成功率僅1%，LeCun馬庫斯驚呼越改越錯

AIGC動態歡迎閱讀

原標題：GPT-4不知道自己錯了！ LLM新缺陷曝光，自我糾正成功率僅1%，LeCun馬庫斯驚呼越改越錯

關鍵字：研究人員,自我,模型,提示,顏色

文章來源：新智元

內容字數：9228字

內容摘要：新智元報道編輯：桃子 潤【新智元導讀】GPT-4根本不知道自己犯錯？最新研究發現，LLM在推理任務中，自我糾正后根本無法挽救性能變差，引AI大佬LeCun馬庫斯圍觀。大模型又被爆出重大缺陷，引得LeCun和馬庫斯兩位大佬同時轉發關注！在推理實驗中，聲稱可以提高準確性的模型自我糾正，把正確率從16%「提高」到了1%！簡單來說，就是LLM在推理任務中，無法通過自我糾正的形式來改進輸出，除非LLM在自我…

原文鏈接：點此閱讀原文：GPT-4不知道自己錯了！ LLM新缺陷曝光，自我糾正成功率僅1%，LeCun馬庫斯驚呼越改越錯

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。