Ilya出走加劇OpenAI離職潮!RLHF作者Jan Leike同日辭職,超級對齊項目分崩離析
AIGC動態(tài)歡迎閱讀
原標題:Ilya出走加劇OpenAI離職潮!RLHF作者Jan Leike同日辭職,超級對齊項目分崩離析
關(guān)鍵字:團隊,模型,解釋性,量子,說法
文章來源:量子位
內(nèi)容字數(shù):3434字
內(nèi)容摘要:
夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAIIlya Sutskever宣布退出OpenAI,震動整個AI圈。
數(shù)小時后,RLHF發(fā)明者之一Jan Leike也追隨他的腳步一起離開,再次給OpenAI的前途蒙上了一層陰影。
兩人共同領(lǐng)導(dǎo)的超級對齊團隊成立還不到一年,已經(jīng)分崩離析。
△他甚至不留下一句客套話
Jan Leike在GPT-4項目上與Ryan Lowe共同領(lǐng)導(dǎo)了對齊工作,而后者也已于3月底離開OpenAI。
所以說不止超級對齊團隊,而是整個OpenAI安全研究方向的人才,都在持續(xù)動蕩中。
超級對齊成員之一William Saunders,以及參與過GPT-4對抗的Daniel Kokotajlo,此前兩人均已離開OpenAI。
其中Kokotajlo在Less Wrong論壇留下了自己的理由:
對OpenAI能否在AGI時代負責(zé)任的行動失去了信心。
按他的說法,當前的AI監(jiān)管努力集中在“評估風(fēng)險和采取緩解措施”的組合上,這種組合很容易被大型公司鉆空子利用,最終導(dǎo)致“選擇性暫停”,也就是最需要被監(jiān)管的前沿大型AI實驗室反而沒被監(jiān)管到。
“幻滅了”,這是他用來形容辭職
原文鏈接:Ilya出走加劇OpenAI離職潮!RLHF作者Jan Leike同日辭職,超級對齊項目分崩離析
聯(lián)系作者
文章來源:量子位
作者微信:QbitAI
作者簡介:追蹤人工智能新趨勢,關(guān)注科技行業(yè)新突破