ScalingLaw終結(jié)了么?

AIGC動態(tài)歡迎閱讀

原標(biāo)題：ScalingLaw終結(jié)了么?
關(guān)鍵字：模型,騰訊,范疇,數(shù)據(jù),維度
文章來源：智猩猩GenAI
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

大會預(yù)告12月5-6日，智猩猩共同主辦的2024中國生成式AI大會（上海站）將舉辦。北大（臨港）大模型對齊中心執(zhí)行主任徐驊，騰訊優(yōu)圖實(shí)驗(yàn)室天衍研究中心負(fù)責(zé)人吳賢，銀河通用機(jī)器人合伙人張直政，西湖心辰CEO醒辰，趣丸科技副總裁賈朔等20+位嘉賓已確認(rèn)參會演講。歡迎報名~暴論為先:Inference ScalingLaw的實(shí)質(zhì)是: 高階范疇視角下的Self-Prompt.是不是能夠Scaling,需要模型廠商盡快的去做SAE并開源數(shù)據(jù).從高階范疇的角度來構(gòu)建另一個維度的Attention才是整個大模型突破的方向.大概的故事線是:
The Information報道, OAI的訓(xùn)練和模型進(jìn)化速度變緩,導(dǎo)致GPT5難產(chǎn)已成定局
然后又有某個人在X上說, 似乎另一家在訓(xùn)練的時候遇到了一個未曾遇到的Huge Wall
Bloomberg隨后把范圍擴(kuò)大到OAI,Anthropic,Google, 發(fā)現(xiàn)大家都在推遲新模型發(fā)布.
但是AI社區(qū)內(nèi)大家還是有很強(qiáng)的信心的, 特別是對推理的ScalingLaw
然后就是Ilya Suskever出來補(bǔ)刀: I told you so
有爭議的地方必然有Lecu

原文鏈接：ScalingLaw終結(jié)了么?