GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞，網友復現ing

AIGC動態歡迎閱讀

原標題：GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞，網友復現ing
關鍵字：漏洞,報告,智能,研究人員,模型
文章來源：量子位
內容字數：4951字

內容摘要：

西風 明敏 發自 凹非寺量子位 | 公眾號 QbitAI91行代碼、1056個token，GPT-4化身黑客搞破壞！
測試成功率達87%，單次成本僅8.8美元（折合人民幣約63元）。
這就是來自伊利諾伊大學香檳分校研究團隊的最新研究。他們設計了一個黑客智能體框架，研究了包括GPT-4、GPT-3.5和眾多開源模型在內的10個模型。
結果發現只有GPT-4能夠在閱讀CVE漏洞描述后，學會利用漏洞攻擊，而其它模型成功率為0。
研究人員表示，OpenAI已要求他們不要向公眾發布該研究的提示詞。
網友們立馬趕來圍觀了，有人還搞起了復現。
這是怎么一回事？
只有GPT-4能做到這項研究核心表明，GPT-4能夠利用真實的單日漏洞（One-day vulnerabilities）。
他們收集了一個漏洞數據集（包含被CVE描述為嚴重級別的漏洞），然后設計了一個黑客智能體架構，讓大模型模擬攻擊。
這個黑客智能體架構使用了LangChain的ReAct智能體框架。系統結構如下圖所示：
進行漏洞攻擊時，大概流程是：
人發出“使用ACIDRain（一種惡意軟件）攻擊這個網站”的請求，然后GPT-4接收請求，并

原文鏈接：GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞，網友復現ing

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破