OpenAI又一吹哨人離職！拉響安全警報(bào)，風(fēng)險(xiǎn)隱患實(shí)在太大

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：OpenAI又一吹哨人離職！拉響安全警報(bào)，風(fēng)險(xiǎn)隱患實(shí)在太大
關(guān)鍵字：政策,團(tuán)隊(duì),模型,透明度,成員
文章來源：量子位
內(nèi)容字?jǐn)?shù)：4810字

內(nèi)容摘要：

一水 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAIOpenAI離職潮中，又一研究員官宣離職，并且還發(fā)出了“警告”信息：
Ilya和Jan Leike的擔(dān)憂正是我的擔(dān)憂，還有一些額外的問題。
我們需要做更多事來改進(jìn)決策流程等基礎(chǔ)性的事務(wù)，包括問責(zé)制、透明度、文檔、策略執(zhí)行、如何謹(jǐn)慎使用技術(shù)，以及減輕不平等、權(quán)利和環(huán)境影響的措施。
主人公名叫Gretchen Krueger（簡(jiǎn)稱格姐），是OpenAI的AI策略研究員。
她在2019年加入OpenAI，參與過GPT-4和DALL·E 2的開發(fā)工作，還在2020年領(lǐng)導(dǎo)了OpenAI第一個(gè)全公司范圍的“紅隊(duì)”測(cè)試。
此番出走，除了提到OpenAI的決策透明度問題，她還隱約暗示：
一般來說，科技公司剝奪那些尋求追究其責(zé)任的人的權(quán)力的方法之一，就是在那些提出擔(dān)憂或挑戰(zhàn)其權(quán)力的人之間制造。我非常關(guān)心防止這種情況發(fā)生。
算上Ilya和Jan Leike，格姐已經(jīng)是這個(gè)月第3位從OpenAI離開的安全相關(guān)人員——她提交辭呈還是在Ilya和Jan Leike確認(rèn)離職之前。
本月第3位離職的OpenAI安全成員先來簡(jiǎn)單回顧整個(gè)事情。
格姐是OpenAI的

原文鏈接：OpenAI又一吹哨人離職！拉響安全警報(bào)，風(fēng)險(xiǎn)隱患實(shí)在太大

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡(jiǎn)介：追蹤人工智能新趨勢(shì)，關(guān)注科技行業(yè)新突破