大模型增速遠(yuǎn)超摩爾定律！MIT最新研究：人類(lèi)快要喂不飽AI了

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：大模型增速遠(yuǎn)超摩爾定律！MIT最新研究：人類(lèi)快要喂不飽AI了
關(guān)鍵字：模型,定律,報(bào)告,數(shù)據(jù),表示
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：5295字

內(nèi)容摘要：

新智元報(bào)道編輯：alan
【新智元導(dǎo)讀】近日，來(lái)自MIT的研究人員發(fā)表了關(guān)于大模型能力增速的研究，結(jié)果表明，LLM的能力大約每8個(gè)月就會(huì)翻一倍，速度遠(yuǎn)超摩爾定律！硬件馬上就要跟不上啦！我們?nèi)祟?lèi)可能要養(yǎng)不起AI了！
近日，來(lái)自MIT FutureTech的研究人員發(fā)表了一項(xiàng)關(guān)于大模型能力增長(zhǎng)速度的研究，
結(jié)果表明：LLM的能力大約每8個(gè)月就會(huì)翻一倍，速度遠(yuǎn)超摩爾定律！
論文地址：https://arxiv.org/pdf/2403.05812.pdf
LLM的能力提升大部分來(lái)自于算力，而摩爾定律代表著硬件算力的發(fā)展，
——也就是說(shuō)，隨著時(shí)間的推移，終有一天我們將無(wú)法滿(mǎn)足LLM所需要的算力！
如果那個(gè)時(shí)候AI有了意識(shí)，不知道會(huì)不會(huì)自己想辦法找飯吃？
上圖表示不同領(lǐng)域的算法改進(jìn)對(duì)有效計(jì)算翻倍的估計(jì)。藍(lán)點(diǎn)表示中心估計(jì)值或范圍；藍(lán)色三角形對(duì)應(yīng)于不同大小（范圍從1K到1B）的問(wèn)題的倍增時(shí)間；紫色虛線(xiàn)對(duì)應(yīng)于摩爾定律表示的2年倍增時(shí)間。
摩爾定律和比爾蓋茨摩爾定律（Moore’s law）是一種經(jīng)驗(yàn)或者觀(guān)察結(jié)果，表示集成電路（IC）中的晶體管數(shù)量大約每?jī)赡攴环?br />1965年，仙童半導(dǎo)體（Fairc

原文鏈接：大模型增速遠(yuǎn)超摩爾定律！MIT最新研究：人類(lèi)快要喂不飽AI了

聯(lián)系作者

文章來(lái)源：新智元
作者微信：AI_era
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類(lèi)社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。