牛津劍橋「投毒」AI失敗9次登Nature封面,引爆學(xué)術(shù)圈激辯!AI訓(xùn)AI能否打破崩潰魔咒?

AIGC動態(tài)歡迎閱讀
原標(biāo)題:牛津劍橋「投毒」AI失敗9次登Nature封面,引爆學(xué)術(shù)圈激辯!AI訓(xùn)AI能否打破崩潰魔咒?
關(guān)鍵字:數(shù)據(jù),模型,人類,研究者,誤差
文章來源:新智元
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
新智元報(bào)道編輯:Aeneas 好困
【新智元導(dǎo)讀】牛津劍橋的9次投毒導(dǎo)致模型崩潰的論文,已經(jīng)遭到了諸多吐槽:這也能上Nature?學(xué)術(shù)圈則對此進(jìn)行了進(jìn)一步討論,大家的觀點(diǎn)殊途同歸:合成數(shù)據(jù)被很多人視為靈丹妙藥,但天下沒有免費(fèi)的午餐。AI時(shí)代,數(shù)據(jù)就是新的石油。全球人類數(shù)據(jù)逐漸枯竭的時(shí)代,合成數(shù)據(jù)是我們的未來嗎?
最近Nature封面一篇論文引起的,讓我們明白:重要的并不是「合成數(shù)據(jù)」,而是「正確使用合成數(shù)據(jù)」。
本周四,牛津、劍橋、帝國理工、多倫多大學(xué)等機(jī)構(gòu)的一篇論文登上了Nature封面。
他們提出了AI的「近親繁殖」問題,即如果在訓(xùn)練中不加區(qū)別地只用AI產(chǎn)生的內(nèi)容,就會發(fā)生模型崩潰。
不過,讓人沒想到的是,論文一經(jīng)刊出便引發(fā)了AI社區(qū)的大量討論。一些人認(rèn)為,問題的核心不在「合成數(shù)據(jù)」上,而是在「數(shù)據(jù)質(zhì)量」上。
即使全部用的是人工數(shù)據(jù),如果質(zhì)量太差,那結(jié)果一樣也是「垃圾進(jìn)垃圾出」。甚至,有人覺得研究者故意采用了與實(shí)際操作不匹配的方法,實(shí)際上是在「嘩眾取寵」。
對此,馬毅教授表示,如今我們已經(jīng)走進(jìn)了缺少科學(xué)思想和方法的時(shí)代——
許多研究,不過都是重新發(fā)現(xiàn)一些科學(xué)常識。
如何避免模
原文鏈接:牛津劍橋「投毒」AI失敗9次登Nature封面,引爆學(xué)術(shù)圈激辯!AI訓(xùn)AI能否打破崩潰魔咒?
聯(lián)系作者
文章來源:新智元
作者微信:
作者簡介:

粵公網(wǎng)安備 44011502001135號