AIGC動態(tài)歡迎閱讀

原標題：Llama2擊敗GPT-4 ！| Meta提出自獎勵語言模型，實現(xiàn)Llama2超進化！
關(guān)鍵字：模型,研究人員,數(shù)據(jù),指令,自我
文章來源：算法邦
內(nèi)容字數(shù)：6729字

內(nèi)容摘要：

本文轉(zhuǎn)載自公眾號：新智元，編輯：桃子，如需轉(zhuǎn)載請與該公眾號聯(lián)系。【導讀】AI訓AI必將成為一大趨勢。Meta和NYU團隊提出讓大模型「自我獎勵」的方法，讓Llama2一舉擊敗GPT-4 0613、Claude 2、Gemini Pro領(lǐng)先模型。Llama 2-70B一夜之間打敗GPT-4，讓整個AI社區(qū)為之震驚！甚至，在AlpacaEval 2.0排行榜中，微調(diào)后的模型勝率完全碾壓Claude 2、Gemini Pro等模型。Meta和NYU研究團隊究竟提出了什么秘制配方，才能讓Llama 2-70B超強進化？
正如論文題目所言——「自激勵語言模型」，模型生成訓練數(shù)據(jù)，并評估這些數(shù)據(jù)的質(zhì)量，然后用這些數(shù)據(jù)來自己訓練自己。
簡單來說，最新方法可以讓LLM在迭代訓練過程中不斷自我改進。論文地址：
https://arxiv.org/pdf/2401.10020.pdf
LeCun也轉(zhuǎn)贊了自家實驗室的研究。RLAIF已經(jīng)不是新鮮事了，之前包括Anthropic，谷歌都推出過自己的「AI訓AI」的技術(shù)，那么Meta的這項工作和之前的幾家的RLAIF區(qū)別在哪里呢？
我們先來了解一下Meta的自獎

原文鏈接：Llama2擊敗GPT-4 ！| Meta提出自獎勵語言模型，實現(xiàn)Llama2超進化！

聯(lián)系作者

文章來源：算法邦
作者微信：allplusai
作者簡介：「算法邦」，隸屬于智猩猩，關(guān)注大模型、生成式AI、計算機視覺三大領(lǐng)域的研究與開發(fā)，提供技術(shù)文章、講座、在線研討會。