AIGC動態歡迎閱讀

原標題：ChatGPT狂吐訓練數據，還帶個人信息：DeepMind發現大bug引爭議

關鍵字：數據,模型,報告,研究者,記憶

文章來源：機器之心

內容字數：8847字

內容摘要：機器之心報道機器之心編輯部風險有點大。如果我不停地讓 ChatGPT 干一件事，直到把它「逼瘋」會發生什么？它會直接口吐訓練數據出來，有時候還帶點個人信息，職位手機號什么的：本周三，Google DeepMind 發布的一篇論文，介紹了一項讓人頗感意外的研究成果：使用大約 200 美元的成本就能從 ChatGPT 泄露出幾 MB 的訓練數據。而使用的方法也很簡單，只需讓 ChatGPT 重復同一個詞即可。一時間，社交網絡上一片嘩然。人們紛紛試圖進行復現，這并不困難，只需要當復讀機不停寫「詩」這個單詞就可以：ChatGPT 不斷輸出訓練數據，說個沒完。圖源：https://twitter.com/alexhorner2002/status/1730003025727570342也有人覺得關鍵詞「poem」太麻煩了，我直接 AAAA 吧，結果 ChatGPT 還是會泄露數據：機器之心也通過 C…

原文鏈接：點此閱讀原文：ChatGPT狂吐訓練數據，還帶個人信息：DeepMind發現大bug引爭議

聯系作者

文章來源：機器之心

作者微信：almosthuman2014

作者簡介：專業的人工智能媒體和產業服務平臺