用GPT-2監督GPT-4，防止AI毀滅人類? OpenAI Ilya超級對齊團隊首篇論文出爐

AIGC動態歡迎閱讀

原標題：用GPT-2監督GPT-4，防止AI毀滅人類? OpenAI Ilya超級對齊團隊首篇論文出爐

關鍵字：模型,人類,系統,人工智能,團隊

文章來源：新智元

內容字數：4827字

內容摘要：新智元報道編輯：編輯部【新智元導讀】Ilya領銜的OpenAI對齊團隊，剛剛發表了首篇論文——用類似GPT-2監督GPT-4的方法，或可幫人類搞定自己更聰明的超級AI！就在剛剛，OpenAI首席科學家Ilya領銜的超級對齊團隊，發布了成立以來的首篇論文！團隊聲稱，已經發現了對超人類模型進行實證對齊的新研究方向。未來超級AI系統對齊的一個核心挑戰——人類需要監督比自己更聰明人工智能系統。OpenAI的最新研究做了一個簡單的類比：小模型可以監督大模型嗎？論文地址：https://cdn.openai.com/papers/weak-to-strong-generalization.pdf經驗證，通過GPT-2可以激發出GPT-4的大部分能力（接近GPT-3.5的性能），甚至可以正確地泛化到小模型失敗的難題上。OpenAI此舉開辟了一個新的研究方向，讓我們能夠直接解決一個核心挑戰，即調整未來的超…

原文鏈接：點此閱讀原文：用GPT-2監督GPT-4，防止AI毀滅人類? OpenAI Ilya超級對齊團隊首篇論文出爐

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。