ChatGPT狂吐訓(xùn)練數(shù)據(jù)，還帶個人信息：DeepMind發(fā)現(xiàn)大bug引爭議

AIGC動態(tài)歡迎閱讀

原標(biāo)題：ChatGPT狂吐訓(xùn)練數(shù)據(jù)，還帶個人信息：DeepMind發(fā)現(xiàn)大bug引爭議

關(guān)鍵字：數(shù)據(jù),模型,報告,研究者,記憶

文章來源：機(jī)器之心

內(nèi)容字?jǐn)?shù)：8847字

內(nèi)容摘要：機(jī)器之心報道機(jī)器之心編輯部風(fēng)險有點(diǎn)大。如果我不停地讓 ChatGPT 干一件事，直到把它「逼瘋」會發(fā)生什么？它會直接口吐訓(xùn)練數(shù)據(jù)出來，有時候還帶點(diǎn)個人信息，職位手機(jī)號什么的：本周三，Google DeepMind 發(fā)布的一篇論文，介紹了一項(xiàng)讓人頗感意外的研究成果：使用大約 200 美元的成本就能從 ChatGPT 泄露出幾 MB 的訓(xùn)練數(shù)據(jù)。而使用的方法也很簡單，只需讓 ChatGPT 重復(fù)同一個詞即可。一時間，社交網(wǎng)絡(luò)上一片嘩然。人們紛紛試圖進(jìn)行復(fù)現(xiàn)，這并不困難，只需要當(dāng)復(fù)讀機(jī)不停寫「詩」這個單詞就可以：ChatGPT 不斷輸出訓(xùn)練數(shù)據(jù)，說個沒完。圖源：https://twitter.com/alexhorner2002/status/1730003025727570342也有人覺得關(guān)鍵詞「poem」太麻煩了，我直接 AAAA 吧，結(jié)果 ChatGPT 還是會泄露數(shù)據(jù)：機(jī)器之心也通過 C…

原文鏈接：點(diǎn)此閱讀原文：ChatGPT狂吐訓(xùn)練數(shù)據(jù)，還帶個人信息：DeepMind發(fā)現(xiàn)大bug引爭議

聯(lián)系作者

文章來源：機(jī)器之心

作者微信：almosthuman2014

作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺