AIGC動態(tài)歡迎閱讀

原標題：OpenAI 的超級對齊團隊在做什么
關(guān)鍵字：公告,解讀,模型,人類,團隊
文章來源：AI前線
內(nèi)容字數(shù)：5031字

內(nèi)容摘要：

作者 | Jan Leike、John Schulman、Jeffrey Wu 譯者 | 王強 策劃 | 褚杏娟 這家公司想要預(yù)防一種超級智能體走向失控，而這就是他們邁出的第一步。
OpenAI 不久前宣布了該公司超級對齊團隊的第一項成果。這個團隊是該公司的一項內(nèi)部計劃的產(chǎn)物，致力于預(yù)防一種超級智能體（一種假象的未來計算機，可以比人類更聰明）走向失控。
與該公司的許多公告不同的是，這次的公告并沒有包含什么重大突破。在一篇低調(diào)的研究論文中，該團隊描述了一種技術(shù)，可以讓一個水平較低的大型語言模型監(jiān)督一個能力更強大的語言模型，論文聲稱這可能是向著“弄清楚人類如何監(jiān)督超人類水平的機器”這一目標邁出的一小步。
此前 OpenAI 陷入了危機，首席執(zhí)行官 Sam Altman 被監(jiān)督委員會解雇（這顯然是由首席科學家 Ilya Sutskever 領(lǐng)導(dǎo)的），三天后他又重新上任。這次的公告距離這樁不到一個月，而它傳達的信息很明確：公司又回到了正軌，一切如常。
然而 OpenAI 的業(yè)務(wù)并不尋常。許多研究人員仍然質(zhì)疑機器是否能夠媲美人類的智能水平，更不用說超越人類智能了，但 OpenAI 團隊

原文鏈接：OpenAI 的超級對齊團隊在做什么

聯(lián)系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發(fā)者和科學家，提供AI領(lǐng)域技術(shù)資訊、一線業(yè)界實踐案例、搜羅整理業(yè)界技術(shù)分享干貨、AI論文解讀。每周一節(jié)技術(shù)分享公開課，助力你全面擁抱人工智能技術(shù)。