牛津劍橋「投毒」AI失敗9次登Nature封面，引爆學術圈激辯！AI訓AI能否打破崩潰魔咒？

AIGC動態歡迎閱讀

原標題：牛津劍橋「投毒」AI失敗9次登Nature封面，引爆學術圈激辯！AI訓AI能否打破崩潰魔咒？
關鍵字：數據,模型,人類,研究者,誤差
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：Aeneas 好困
【新智元導讀】牛津劍橋的9次投毒導致模型崩潰的論文，已經遭到了諸多吐槽：這也能上Nature？學術圈則對此進行了進一步討論，大家的觀點殊途同歸：合成數據被很多人視為靈丹妙藥，但天下沒有免費的午餐。AI時代，數據就是新的石油。全球人類數據逐漸枯竭的時代，合成數據是我們的未來嗎？
最近Nature封面一篇論文引起的，讓我們明白：重要的并不是「合成數據」，而是「正確使用合成數據」。
本周四，牛津、劍橋、帝國理工、多倫多大學等機構的一篇論文登上了Nature封面。
他們提出了AI的「近親繁殖」問題，即如果在訓練中不加區別地只用AI產生的內容，就會發生模型崩潰。
不過，讓人沒想到的是，論文一經刊出便引發了AI社區的大量討論。一些人認為，問題的核心不在「合成數據」上，而是在「數據質量」上。
即使全部用的是人工數據，如果質量太差，那結果一樣也是「垃圾進垃圾出」。甚至，有人覺得研究者故意采用了與實際操作不匹配的方法，實際上是在「嘩眾取寵」。
對此，馬毅教授表示，如今我們已經走進了缺少科學思想和方法的時代——
許多研究，不過都是重新發現一些科學常識。
如何避免模

原文鏈接：牛津劍橋「投毒」AI失敗9次登Nature封面，引爆學術圈激辯！AI訓AI能否打破崩潰魔咒？