OpenAI反復修補未果的ChatGPT數據泄露漏洞是什么？

AIGC動態2年前 (2023)發布人工智能學家

AIGC動態歡迎閱讀

原標題：OpenAI反復修補未果的ChatGPT 數據泄露漏洞是什么？
關鍵字：報告,數據,研究員,惡意,漏洞
文章來源：人工智能學家
內容字數：3021字

內容摘要：

來源：安全內參
編譯：安全內參通過定制惡意GPT或者提供惡意提示詞給用戶使用，攻擊者可以用戶使用ChatGPT的對話詳情等信息。安全內參12月22日消息，OpenAI已經采取緩解措施，修補了ChatGPT可將對話詳情泄漏到外部URL的數據泄露漏洞。
但發現該漏洞的研究人員認為，目前的緩解措施并不完美，在特定條件下攻擊者仍然可以利用漏洞。
此外，ChatGPT尚未對iOS端應用進行安全檢查，因此該平臺上的風險仍未解決。數據泄漏問題2023年4月，安全研究員Johann Rehberger發現了一種從ChatGPT數據的方法，并向OpenAI報告了這一問題。11月，研究員進一步分享了創建惡意GPT模型的方法，利用此漏洞向用戶發動釣魚攻擊等額外信息。
研究員在披露文章中寫道，“11月13日，我當即將這個GPT和底層指令報告給了OpenAI。然而，報告工單在11月15日被標記為‘不適用’。我進行了兩次后續查詢，都未得到回復。所以，我選擇與公眾分享信息，讓大家提高警惕。”
GPTs是一種定制化人工智能模型，被稱作“AI應用”。GPT可以扮演類似客戶支持代理的角色，比如輔助寫作和翻譯、分析

原文鏈接：OpenAI反復修補未果的ChatGPT數據泄露漏洞是什么？