OpenAI超級對齊團隊發布第一篇論文，Ilya帶頭研究，用GPT-2監督GPT-4

AIGC動態歡迎閱讀

原標題：OpenAI超級對齊團隊發布第一篇論文，Ilya帶頭研究，用GPT-2監督GPT-4

關鍵字：模型,監督者,學生,論文,問題

文章來源：夕小瑤科技說

內容字數：6648字

內容摘要：夕小瑤科技說 原創作者 | 小戲OpenAI 又搞出大動作了！由OpenAI 首席科學 Ilya Sutskever 領導的 “超級對齊”團隊發布了他們的第一篇論文，提出了“弱對強泛化”的概念以及用小模型 GPT-2 監督大模型 GPT-4 的方法，展示了未來控制超級AI智能的有效手段！早在今年七月，OpenAI 就提出“未來十年內，可能會出現智商超過人類的 AI 系統”，而如果真的出現這種 AI 系統，那么迫在眉睫的問題將是“如何使得超級 AI 與人類利益對齊？”區別于現在的諸如 RLHF 這樣的對齊方法，“超級對齊”問題面臨的最大挑戰在于：這是一個“未來”的問題，在目前我們僅僅知道他們“將來”，但是事實上卻對超級 AI 一無所知。面對這樣一個“謎題”，由 Ilya Sutskever 領銜，OpenAI 于今年7月成立了 Superalignment 超級對齊團隊，使用當下 OpenA…

原文鏈接：點此閱讀原文：OpenAI超級對齊團隊發布第一篇論文，Ilya帶頭研究，用GPT-2監督GPT-4

聯系作者

文章來源：夕小瑤科技說

作者微信：xixiaoyaoQAQ

作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。