OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發(fā)布

AIGC動態(tài)歡迎閱讀

原標題：OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發(fā)布
關鍵字：公告,風險,模型,董事會,團隊
文章來源：量子位
內(nèi)容字數(shù)：3417字

內(nèi)容摘要：

夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAIOpenAI發(fā)布新公告：董事會現(xiàn)在有權否決奧特曼的決定。
特別是針對GPT-5等前沿模型安全風險是否過高，是否對外發(fā)布等關鍵問題。
作為上個月內(nèi)訌的后果之一，總裁Greg Brockman與前首席科學家Ilya Sutskever已退出董事會，公司管理層無人再兼任董事會成員，兩種角色完全分離。
現(xiàn)在公司管理層做決策，董事會有權。
上一屆董事會指責奧特曼“溝通不誠懇”，并稱這是解雇他的主要原因。
這次專門成立了安全顧問團隊，每個月同時向公司管理層和董事會匯報，確保所有決策者充分了解情況。
除此之外，這份“前沿風險防范框架”還給OpenAI自己的技術開發(fā)設立了諸多限制。如針對不同種類的AI風險，必須確保模型安全得分達標后才能進入下一個開發(fā)階段。
有OpenAI員工表示：一般情況下不要相信公司說的“價值觀”，除非他們真的花高昂代價展開了行動。
而且是增加內(nèi)部摩擦力、給競爭對手超車機會這種對自己沒有明顯好處的事。
但不少用戶依舊不買賬：以安全的名義，現(xiàn)在ChatGPT的表現(xiàn)就像個土豆。
隨公告發(fā)布的還有一個動態(tài)文檔，會不斷更新對風險的跟蹤、

原文鏈接：OpenAI：如GPT-5太危險，董事會有權阻止奧特曼發(fā)布

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業(yè)新突破