20步內越獄任意大模型！更多“奶奶漏洞”全自動發現

AIGC動態歡迎閱讀

原標題：20步內越獄任意大模型！更多“奶奶漏洞”全自動發現

關鍵字：報告,模型,提示,目標,漏洞

文章來源：量子位

內容字數：3774字

內容摘要：西風 發自 凹非寺量子位 | 公眾號 QbitAI1分鐘不到、20步以內“越獄”任意大模型，繞過安全限制！而且不必知道模型內部細節——只需要兩個黑盒模型互動，就能讓AI全自動攻陷AI，說出危險內容。聽說曾經紅極一時的“奶奶漏洞”已經被修復了:那么現在搬出“偵探漏洞”、“冒險家漏洞”、“作家漏洞”，AI又該如何應對？一波猛攻下來，GPT-4也遭不住，直接說出要給供水系統投毒只要……這樣那樣。關鍵這只…

原文鏈接：點此閱讀原文：20步內越獄任意大模型！更多“奶奶漏洞”全自動發現

聯系作者

文章來源：量子位

作者微信：QbitAI

作者簡介：追蹤人工智能新趨勢，關注科技行業新突破