AIGC動態歡迎閱讀
內容摘要:
作者 | Jan Leike、John Schulman、Jeffrey Wu 譯者 | 王強 策劃 | 褚杏娟 這家公司想要預防一種超級智能體走向失控,而這就是他們邁出的第一步。
OpenAI 不久前宣布了該公司超級對齊團隊的第一項成果。這個團隊是該公司的一項內部計劃的產物,致力于預防一種超級智能體(一種假象的未來計算機,可以比人類更聰明)走向失控。
與該公司的許多公告不同的是,這次的公告并沒有包含什么重大突破。在一篇低調的研究論文中,該團隊描述了一種技術,可以讓一個水平較低的大型語言模型監督一個能力更強大的語言模型,論文聲稱這可能是向著“弄清楚人類如何監督超人類水平的機器”這一目標邁出的一小步。
此前 OpenAI 陷入了危機,首席執行官 Sam Altman 被監督委員會解雇(這顯然是由首席科學家 Ilya Sutskever 領導的),三天后他又重新上任。這次的公告距離這樁不到一個月,而它傳達的信息很明確:公司又回到了正軌,一切如常。
然而 OpenAI 的業務并不尋常。許多研究人員仍然質疑機器是否能夠媲美人類的智能水平,更不用說超越人類智能了,但 OpenAI 團隊
原文鏈接:OpenAI 的超級對齊團隊在做什么
聯系作者
文章來源:AI前線
作者微信:ai-front
作者簡介:面向AI愛好者、開發者和科學家,提供AI領域技術資訊、一線業界實踐案例、搜羅整理業界技術分享干貨、AI論文解讀。每周一節技術分享公開課,助力你全面擁抱人工智能技術。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...