大語言模型自進化技術綜述：概念框架，進化方向，經驗獲取，經驗更新，評估方法，開放問題

AIGC動態歡迎閱讀

原標題：大語言模型自進化技術綜述：概念框架，進化方向，經驗獲取，經驗更新，評估方法，開放問題
關鍵字：模型,任務,自我,方法,目標
文章來源：人工智能學家
內容字數：38943字

內容摘要：

我們翻譯整理最新論文：大語言模型自我進化技術綜述，文末有論文連接。
大型語言模型（LLMs）在各個領域和智能體應用中取得了顯著進展。然而，當前從人類或外部模型監督中學習的LLMs成本高昂，并且隨著任務復雜性和多樣性的增加，可能會面臨性能上限。為了解決這個問題，自進化方法使LLM能夠自主地獲取、完善和從模型自身生成的經驗中學習，這種方在迅速發展。這種受人類經驗學習過程啟發的新訓練范式，為將LLM擴展到超級智能提供了潛力。在本研究中，我們全面調查了LLM中的自進化方法。我們首先提出了一個自進化的概念框架，并概述了由四個階段組成的迭代循環：經驗獲取、經驗完善、更新和評估。其次，我們對LLM和基于LLM的智能體的進化目標進行了分類；然后，我們總結了文獻并為每個模塊提供了分類法和見解。最后，我們指出了現有的挑戰，并提出了改進自進化框架的未來方向，為研究人員提供了關鍵見解，以加快自進化LLM的發展。
張長旺, 旺知識
1 引言
隨著人工智能的快速發展，像 GPT-3.5 (Ouyang et al., 2022)、GPT-4 (Achiam et al., 2023)、Gemini (Team

原文鏈接：大語言模型自進化技術綜述：概念框架，進化方向，經驗獲取，經驗更新，評估方法，開放問題

聯系作者

文章來源：人工智能學家
作者微信：AItists
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構