強化學習成為OpenAI o1靈魂,速來學習下Self-play增強大模型
AIGC動態(tài)歡迎閱讀
原標題:強化學習成為OpenAI o1靈魂,速來學習下Self-play增強大模型
關鍵字:解讀,模型,自我,語言,計算機系
文章來源:機器之心
內容字數:0字
內容摘要:
在機器學習尤其是強化學習領域,自我博弈(Self-play)是一種非常重要的學習策略。即使 AI 或者智能體沒有明確的對手或者沒有外部環(huán)境提供額外信息,也能通過自己與自己的博弈來學習并獲得提升,這常見于游戲場景。AlphaGo 就是采用自我博弈策略的典型代表,通過自己與自己對戰(zhàn),持續(xù)掌握和積累圍棋知識和比賽經驗,最終擊敗頂級人類棋手。
隨著大語言模型的發(fā)展,自我博弈因其能夠充分利用計算資源和合成數據成為提升模型性能的方法之一。
最近發(fā)布的 OpenAI 發(fā)布的 o1 模型再次震撼了科技圈,o1 能像人類一樣「思考」復雜問題,擁有真正的通用推理能力。不專門訓練,o1 可以直接拿下數學奧賽金牌,甚至能在博士級別的科學問答環(huán)節(jié)上超越人類專家。
這些突破性的進展是如何達成的呢?在研發(fā)團隊發(fā)布的慶功視頻里,OpenAI 的研究人員透露,關鍵在于他們采用了強化學習技術進行模型訓練。這也讓大家重新開始關注自我博弈策略。
其實 2024 年以來,加州大學洛杉磯分校(UCLA)計算機系教授顧全全團隊連續(xù)發(fā)表兩篇基于自我博弈的大語言模型增強論文,分別是自我博弈微調(Self-Play Fine-Tunin
原文鏈接:強化學習成為OpenAI o1靈魂,速來學習下Self-play增強大模型
聯(lián)系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...