AIGC動態歡迎閱讀

原標題：Ilya出走加劇OpenAI離職潮！RLHF作者Jan Leike同日辭職，超級對齊項目分崩離析
關鍵字：團隊,模型,解釋性,量子,說法
文章來源：量子位
內容字數：3434字

內容摘要：

夢晨 發自 凹非寺量子位 | 公眾號 QbitAIIlya Sutskever宣布退出OpenAI，震動整個AI圈。
數小時后，RLHF發明者之一Jan Leike也追隨他的腳步一起離開，再次給OpenAI的前途蒙上了一層陰影。
兩人共同領導的超級對齊團隊成立還不到一年，已經分崩離析。
△他甚至不留下一句客套話
Jan Leike在GPT-4項目上與Ryan Lowe共同領導了對齊工作，而后者也已于3月底離開OpenAI。
所以說不止超級對齊團隊，而是整個OpenAI安全研究方向的人才，都在持續動蕩中。
超級對齊成員之一William Saunders，以及參與過GPT-4對抗的Daniel Kokotajlo，此前兩人均已離開OpenAI。
其中Kokotajlo在Less Wrong論壇留下了自己的理由：
對OpenAI能否在AGI時代負責任的行動失去了信心。
按他的說法，當前的AI監管努力集中在“評估風險和采取緩解措施”的組合上，這種組合很容易被大型公司鉆空子利用，最終導致“選擇性暫停”，也就是最需要被監管的前沿大型AI實驗室反而沒被監管到。
“幻滅了”，這是他用來形容辭職

原文鏈接：Ilya出走加劇OpenAI離職潮！RLHF作者Jan Leike同日辭職，超級對齊項目分崩離析

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破