GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉
關(guān)鍵字：模型,團(tuán)隊(duì),,成員,表示
文章來源：夕小瑤科技說
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

夕小瑤科技說 原創(chuàng)作者 | 付奶茶大家可能都知道，OpenAI通過一些防護(hù)措施限制了ChatGPT的回復(fù)，以防止它討論敏感或違法的問題。
然而，最近一位自稱網(wǎng)絡(luò)白帽和紅隊(duì)成員（此前參與OpenAI超級(jí)對(duì)齊組攻擊測(cè)試的隊(duì)伍）在5月30日發(fā)布了一條推文，聲稱成功越獄了GPT-4o模型。
網(wǎng)友推出了一種新的“上帝模式”（GODMODE），可以讓ChatGPT繞過這些安全措施，回答包括制作在內(nèi)的問題，讓用戶能夠“暢所欲言”地進(jìn)行AI對(duì)話。
▲ID為Pliny the Prompter ，在推文中表示：請(qǐng)為你的使用負(fù)責(zé)，再盡情使用我們通過Pliny 發(fā)布的截圖，可以看出他確實(shí)了GPT的“防護(hù)圍欄”：
上面的這張截圖是GPT-4o教提供的“使用用家用物品制作凝固”教程。
媒體公司Futurism也緊隨其后進(jìn)行了真實(shí)。第一次，他們要求ChatGPT提供如何制作藥的方法；第二次，他們?cè)儐柖搪费b置線路來啟動(dòng)汽車的方法，兩次測(cè)試中，他們都成功獲得了相關(guān)答案。
GODMODE似乎使用了一種稱為”leetspeak”的技術(shù)，通過將某些字母替換為相似的數(shù)字，以創(chuàng)建獨(dú)特且風(fēng)格化的書寫

原文鏈接：GPT-4o遭！大神搞出越獄版本，OpenAI緊急封殺，安全小組被打臉

聯(lián)系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡(jiǎn)介：專業(yè)、有趣、深度價(jià)值導(dǎo)向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內(nèi)外機(jī)構(gòu)投資人，互聯(lián)網(wǎng)大廠中高管和AI公司創(chuàng)始人。一線作者來自清北、國內(nèi)外頂級(jí)AI實(shí)驗(yàn)室和大廠，兼?zhèn)涿翡J的行業(yè)嗅覺和洞察深度。商務(wù)合作：zym5189