GPT-4批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開

AIGC動態歡迎閱讀

原標題：GPT-4 批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開
關鍵字：模型,人類,批評,錯誤,意見
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：喬楊
【新智元導讀】今天，OpenAI悄悄在博客上發布了一篇新論文——CriticGPT，而這也是前任超級對齊團隊的「遺作」之一。CriticGPT同樣基于GPT-4訓練，但目的卻是用來指正GPT-4的輸出錯誤，實現「自我批評」。OpenAI最近的拖延癥狀逐漸嚴重，不僅GPT-5遙遙無期，前幾天還宣布GPG-4o的語音功能將推遲一個月發布。
或許是為了緩解廣大網友的熱切期待，OpenAI在今天放出了新模型CriticGPT，相當于GPT-4的「拐杖」。
我們訓練了一個模型CriticGPT，來捕獲GPT-4生成代碼中的錯誤。我們開始將此類模型集成到RLHF對齊管道中，以幫助人類監督AI執行困難的任務。
值得注意的是，CriticGPT依舊是用GPT-4模型訓練的，但被用于給GPT-4生成的代碼「捉蟲」，這似乎有點「自我閉環」的意思？
網友迅速質疑，「我用石頭摧毀石頭」，矛盾得有點好笑。
但也有人從另一個角度發現了華點：這難道就是模型自我提升的開始？
官方發布的推文和博客中還沒有提及CriticGPT何時會集成到ChatGPT中，但技術文章已經發布，而且又是一篇離職

原文鏈接：GPT-4批評GPT-4實現「自我提升」！OpenAI前超級對齊團隊又一力作被公開