用生物腦機(jī)制啟發(fā)持續(xù)學(xué)習(xí),讓智能系統(tǒng)適者生存,清華朱軍等團(tuán)隊(duì)研究登Nature子刊封面
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:用生物腦機(jī)制啟發(fā)持續(xù)學(xué)習(xí),讓智能系統(tǒng)適者生存,清華朱軍等團(tuán)隊(duì)研究登Nature子刊封面
關(guān)鍵字:人工智能,記憶,任務(wù),智能,方法
文章來(lái)源:機(jī)器之心
內(nèi)容字?jǐn)?shù):5619字
內(nèi)容摘要:
機(jī)器之心專欄
機(jī)器之心編輯部在開(kāi)放、高動(dòng)態(tài)和演化環(huán)境中的學(xué)習(xí)能力是生物智能的核心要素之一,也是人類以及大多數(shù)動(dòng)物在「適者生存」的自然選擇過(guò)程中形成的重要優(yōu)勢(shì)。目前傳統(tǒng)機(jī)器學(xué)習(xí)范式是在靜態(tài)和封閉的數(shù)據(jù)集上學(xué)習(xí)到一個(gè)模型,并假設(shè)其應(yīng)用環(huán)境和之前訓(xùn)練數(shù)據(jù)的屬性相同,因而無(wú)法適應(yīng)動(dòng)態(tài)開(kāi)放環(huán)境的挑戰(zhàn)。
針對(duì)該問(wèn)題,持續(xù)學(xué)習(xí)模擬生物智能的學(xué)習(xí)過(guò)程和學(xué)習(xí)能力,發(fā)展新型的機(jī)器學(xué)習(xí)理論和方法,通過(guò)持續(xù)學(xué)習(xí)的過(guò)程,以期提升智能體對(duì)開(kāi)放、高動(dòng)態(tài)環(huán)境的適應(yīng)能力。但是,目前主流的機(jī)器學(xué)習(xí)模型通過(guò)調(diào)整網(wǎng)絡(luò)參數(shù)進(jìn)行學(xué)習(xí),當(dāng)學(xué)習(xí)任務(wù)的數(shù)據(jù)分布發(fā)生變化時(shí),先前學(xué)到的網(wǎng)絡(luò)參數(shù)可能被覆蓋,從而導(dǎo)致對(duì)先前知識(shí)的災(zāi)難性遺忘(catastrophic forgetting)。
作為人工智能尤其是深度學(xué)習(xí)發(fā)展的重要瓶頸,持續(xù)學(xué)年來(lái)在人工智能領(lǐng)域受到廣泛關(guān)注。大多數(shù)持續(xù)學(xué)習(xí)方法都專注于提高對(duì)所學(xué)知識(shí)的記憶穩(wěn)定性以克服災(zāi)難性遺忘,例如在學(xué)習(xí)新任務(wù)時(shí)固定執(zhí)行舊任務(wù)的網(wǎng)絡(luò)參數(shù)。然而這些方法通常只能在特定場(chǎng)景中發(fā)揮作用,難以像生物智能那樣對(duì)現(xiàn)實(shí)世界的復(fù)雜環(huán)境和任務(wù)具有普遍的適應(yīng)能力。
因此,能否借鑒生物腦的持續(xù)學(xué)習(xí)機(jī)理,發(fā)展新型的持續(xù)學(xué)
原文鏈接:用生物腦機(jī)制啟發(fā)持續(xù)學(xué)習(xí),讓智能系統(tǒng)適者生存,清華朱軍等團(tuán)隊(duì)研究登Nature子刊封面
聯(lián)系作者
文章來(lái)源:機(jī)器之心
作者微信:almosthuman2014
作者簡(jiǎn)介:專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)