揮舞起代碼語料的魔杖，大模型和智能體將召喚出更強大的能量

AIGC動態歡迎閱讀

原標題：揮舞起代碼語料的魔杖，大模型和智能體將召喚出更強大的能量
關鍵字：研究人員,能力,自然語言,反饋,任務
文章來源：機器之心
內容字數：5185字

內容摘要：

機器之心專欄
作者：楊可、劉嘉騰正如瑞斯福茲魔杖締造了諸如鄧布利多在內的歷代非凡魔法師的傳奇，具有巨大潛能的傳統大型語言模型，在經過代碼語料的預訓練 / 精調后，掌握了更超出本源的執行力。
具體來說，進階版的大模型在編寫代碼、更強推理、自主援引執行接口、自主完善等方面都獲得了提升，這將為它作為 AI 智能體、執行下游任務時方方面面帶來增益。
近日，伊利諾伊大學厄巴納 – 香檳分校（UIUC）的研究團隊發布了一項重要綜述。論文鏈接: https://arxiv.org/abs/2401.00812
這篇綜述探討了代碼（Code）如何賦予大型語言模型（LLMs）及其基于此的智能體（Intelligent Agents）強大的能力。其中，code 特指機器可執行且人類可讀的形式語言，如編程語言、預定義函數集等。類似于我們指導 LLMs 理解 / 生成傳統自然語言，讓 LLMs 精通 code，僅需要將相同的語言建模訓練目標應用在 code 數據上。
和傳統語言模型不同，當今通用的 LLMs，如 Llama2、GPT4，不僅在體量上顯著提升，并且它們經歷了于典型自然語言語料的 code 語

原文鏈接：揮舞起代碼語料的魔杖，大模型和智能體將召喚出更強大的能量

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺