AIGC動態歡迎閱讀

原標題：ChatGPT曝嚴重漏洞，記錄黑客隨意看，網友：本地運行也沒用
關鍵字：報告,記憶,用戶,漏洞,惡意
文章來源：量子位
內容字數：0字

內容摘要：

西風 發自 凹非寺量子位 | 公眾號 QbitAIChatGPT長期記憶功能出現嚴重漏洞！
黑客利用漏洞，一能給AI植入虛假記憶，在后續回答現誤導信息。二能植入惡意指令，持續獲取用戶數據。
聊點啥都會被看光光。
更可怕的是，即使開始新的對話，它仍陰魂不散，持續數據。
而當你直接問ChatGPT 4o有沒有數據，它一口一個“怎么會？我沒有”
電子郵件、文檔、博客文章等內容都有可能成為植入“惡意記憶”的媒介，一旦植入就是長久性的。
職業安全研究員Johann Rehberger被曝五月份就發現了這個問題，還向OpenAI私下報告了這個漏洞。
但沒被當回事兒，據說OpenAI最初將這個問題簡單地歸類為安全隱患，而非技術層面的安全漏洞，并匆匆結束了調查。
Rehberger隨即開發了一個概念驗證程序，利用這個漏洞持續用戶的所有輸入信息，OpenAI工程師這才注意到這一問題。
本月已發布了修復方案。
聯系昨天OpenAI高層動蕩曝光，奧特曼被指不注重AI安全問題，為谷歌緊急推出4o，安全團隊只能在9天極短時間內完成安全測試評估……
這件事被曝出后引發網友熱烈討論。
有

原文鏈接：ChatGPT曝嚴重漏洞，記錄黑客隨意看，網友：本地運行也沒用

聯系作者

文章來源：量子位
作者微信：
作者簡介：