OpenAI又一吹哨人離職！拉響安全警報，風險隱患實在太大

AIGC動態歡迎閱讀

原標題：OpenAI又一吹哨人離職！拉響安全警報，風險隱患實在太大
關鍵字：政策,團隊,模型,透明度,成員
文章來源：量子位
內容字數：4810字

內容摘要：

一水 發自 凹非寺量子位 | 公眾號 QbitAIOpenAI離職潮中，又一研究員官宣離職，并且還發出了“警告”信息：
Ilya和Jan Leike的擔憂正是我的擔憂，還有一些額外的問題。
我們需要做更多事來改進決策流程等基礎性的事務，包括問責制、透明度、文檔、策略執行、如何謹慎使用技術，以及減輕不平等、權利和環境影響的措施。
主人公名叫Gretchen Krueger（簡稱格姐），是OpenAI的AI策略研究員。
她在2019年加入OpenAI，參與過GPT-4和DALL·E 2的開發工作，還在2020年領導了OpenAI第一個全公司范圍的“紅隊”測試。
此番出走，除了提到OpenAI的決策透明度問題，她還隱約暗示：
一般來說，科技公司剝奪那些尋求追究其責任的人的權力的方法之一，就是在那些提出擔憂或挑戰其權力的人之間制造。我非常關心防止這種情況發生。
算上Ilya和Jan Leike，格姐已經是這個月第3位從OpenAI離開的安全相關人員——她提交辭呈還是在Ilya和Jan Leike確認離職之前。
本月第3位離職的OpenAI安全成員先來簡單回顧整個事情。
格姐是OpenAI的

原文鏈接：OpenAI又一吹哨人離職！拉響安全警報，風險隱患實在太大

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破