美國(guó)教授用2歲女兒訓(xùn)AI模型登Science!人類幼崽頭戴相機(jī)訓(xùn)練全新AI
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:美國(guó)教授用2歲女兒訓(xùn)AI模型登Science!人類幼崽頭戴相機(jī)訓(xùn)練全新AI
關(guān)鍵字:模型,兒童,語(yǔ)言,單詞,數(shù)據(jù)
文章來源:新智元
內(nèi)容字?jǐn)?shù):9450字
內(nèi)容摘要:
新智元報(bào)道編輯:編輯部
【新智元導(dǎo)讀】為訓(xùn)練AI模型,紐約州立大學(xué)的一名教授Brenden Lake,竟讓自己不到2歲女兒頭戴相機(jī)收集數(shù)據(jù)!要知道,Meta訓(xùn)Llama 3直接用了15萬億個(gè)token,如果Lake真能讓AI模型學(xué)習(xí)人類幼崽,從有限的輸入中學(xué)習(xí),那LLM的全球數(shù)據(jù)荒豈不是解決了?絕了,為了訓(xùn)練AI模型,一位紐約州立大學(xué)的教授,竟然把類似GoPro的相機(jī)綁在了自己女兒頭上!
雖然聽起來不可思議,但這位教授的行為,其實(shí)是有據(jù)可循的。
要訓(xùn)練出LLM背后的復(fù)雜神經(jīng)網(wǎng)絡(luò),需要海量數(shù)據(jù)。
目前我們訓(xùn)練LLM的過程,一定是最簡(jiǎn)潔、最高效的方式嗎?
肯定不是!科學(xué)家們發(fā)現(xiàn),蹣跚學(xué)步的人類兒童,大腦就像海綿吸水一樣,能迅速形成一個(gè)連貫的世界觀。
雖然LLM時(shí)有驚人的表現(xiàn),但隨著時(shí)間的推移,人類兒童會(huì)比模型更聰明、更有創(chuàng)造力!
兒童掌握語(yǔ)言的秘密如何用更好的方法訓(xùn)練LLM?
科學(xué)家們苦思不得其解之時(shí),人類幼崽讓他們眼前一亮——
他們學(xué)言的方式,堪稱是語(yǔ)言習(xí)得的大師。
咱們都知道這樣的故事:把一個(gè)幼年的孩子扔進(jìn)一個(gè)語(yǔ)言文化完全不同的國(guó)家,不出幾個(gè)月,ta對(duì)于當(dāng)?shù)卣Z(yǔ)言的掌握可能就接近了
原文鏈接:美國(guó)教授用2歲女兒訓(xùn)AI模型登Science!人類幼崽頭戴相機(jī)訓(xùn)練全新AI
聯(lián)系作者
文章來源:新智元
作者微信:AI_era
作者簡(jiǎn)介:智能+中國(guó)主平臺(tái),致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展,關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響,領(lǐng)航中國(guó)新智能時(shí)代。