GPT-4批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開

AIGC動態歡迎閱讀

原標題：GPT-4批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開
關鍵字：模型,人類,批評,錯誤,意見
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：喬楊
【新智元導讀】今天，OpenAI悄悄在博客上發布了一篇新論文——CriticGPT，而這也是前任超級對齊團隊的「遺作」之一。CriticGPT同樣基于GPT-4訓練，但目的卻是用來指正GPT-4的輸出錯誤，實現「自我批評」。OpenAI最近的拖延癥狀逐漸嚴重，不僅GPT-5遙遙無期，前幾天還宣布GPG-4o的語音功能將推遲一個月發布。
或許是為了緩解廣大網友的熱切期待，OpenAI在今天放出了新模型CriticGPT，相當于GPT-4的「拐杖」。
我們訓練了一個模型CriticGPT，來捕獲GPT-4生成代碼中的錯誤。我們開始將此類模型集成到RLHF對齊管道中，以幫助人類監督AI執行困難的任務。
值得注意的是，CriticGPT依舊是用GPT-4模型訓練的，但被用于給GPT-4生成的代碼「捉蟲」，這似乎有點「自我閉環」的意思？
網友迅速質疑，「我用石頭摧毀石頭」，矛盾得有點好笑。
但也有人從另一個角度發現了華點：這難道就是模型自我提升的開始？
官方發布的推文和博客中還沒有提及CriticGPT何時會集成到ChatGPT中，但技術文章已經發布，而且又是一篇離職

原文鏈接：GPT-4批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。