AIGC動態(tài)歡迎閱讀

原標(biāo)題：大模型邊推理邊糾錯，有可能做到嗎？這是ICML爆火的演講
關(guān)鍵字：錯誤,模型,數(shù)據(jù),正確率,作者
文章來源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過去數(shù)年，機(jī)器之心AIxiv專欄接收報道了2000多篇內(nèi)容，覆蓋全球各大高校與企業(yè)的頂級實(shí)驗(yàn)室，有效促進(jìn)了學(xué)術(shù)交流與傳播。如果您有優(yōu)秀的工作想要分享，歡迎投稿或者聯(lián)系報道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
即便是最強(qiáng)大的語言模型（LLM），仍會偶爾出現(xiàn)推理錯誤。除了通過提示詞讓模型進(jìn)行不太可靠的多輪自我糾錯外，有沒有更系統(tǒng)的方法解決這一問題呢？
來自 Meta FAIR、CMU 和 MBZUAI 的葉添、徐子誠、李遠(yuǎn)志、朱澤園團(tuán)隊在最新的 arXiv 論文《語言模型物理學(xué) Part 2.2：如何從錯誤中學(xué)習(xí)》中，通過可控實(shí)驗(yàn)，探索了讓模型「邊推理邊糾錯」的可能性。
他們在預(yù)訓(xùn)練中加入大量「錯誤的推理」和「錯誤的糾正」，展示了這類數(shù)據(jù)可以提高語言模型的推理準(zhǔn)確性（無需提示詞，無需多輪對話）。文章還深入探討了許多細(xì)節(jié)，例如（1）這種方法與 beam search 的區(qū)別，（2）如何準(zhǔn)備此類數(shù)據(jù)，（3）是否需要對錯誤進(jìn)行掩碼，（4）所需的錯誤數(shù)量，（5）此類數(shù)據(jù)是否

原文鏈接：大模型邊推理邊糾錯，有可能做到嗎？這是ICML爆火的演講

聯(lián)系作者

文章來源：機(jī)器之心
作者微信：
作者簡介：