Ilya離職后第一個(gè)動(dòng)作:點(diǎn)贊了這篇論文,網(wǎng)友搶著傳看
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:Ilya離職后第一個(gè)動(dòng)作:點(diǎn)贊了這篇論文,網(wǎng)友搶著傳看
關(guān)鍵字:表征,模型,數(shù)據(jù),任務(wù),解讀
文章來(lái)源:量子位
內(nèi)容字?jǐn)?shù):9044字
內(nèi)容摘要:
西風(fēng) 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI自Ilya Sutskever官宣離職OpenAI后,他的下一步動(dòng)作成了大家關(guān)注焦點(diǎn)。
甚至有人密切關(guān)注著他的一舉一動(dòng)。
這不,Ilya前腳剛剛點(diǎn)贊??了一篇新論文——?
——網(wǎng)友們后腳就搶著都看上了:
論文來(lái)自MIT,作者提出了一個(gè)假說(shuō),用一句話總結(jié)是這樣?jì)饍旱模?br />神經(jīng)網(wǎng)絡(luò)在不同的數(shù)據(jù)和模態(tài)上以不同目標(biāo)進(jìn)行訓(xùn)練,正趨向于在其表示空間中形成一個(gè)共享的現(xiàn)實(shí)世界統(tǒng)計(jì)模型。
他們將這種推測(cè)起名為柏拉圖表示假說(shuō),參考了柏拉圖的洞穴寓言以及其關(guān)于理想現(xiàn)實(shí)本質(zhì)的觀念。
Ilya甄選還是有保障的,有網(wǎng)友看過(guò)后將其稱為是今年看到的最好的論文:
還有網(wǎng)友真的有才,看完后化用《安娜·卡列尼娜》開(kāi)篇的一句話來(lái)總結(jié):所有幸福的語(yǔ)言模型都是相似的,每個(gè)不幸的語(yǔ)言模型都有自己的不幸。
化用懷特海名言:所有機(jī)器學(xué)習(xí)都是柏拉圖的注腳。俺們也來(lái)看了一下,大概內(nèi)容是:
作者分析了AI系統(tǒng)的表征收斂(Representational Convergence),即不同神經(jīng)網(wǎng)絡(luò)模型中的數(shù)據(jù)點(diǎn)表征方式正變得越來(lái)越相似,這種相似性跨不同的模型架構(gòu)、訓(xùn)練目標(biāo)乃至數(shù)據(jù)模態(tài)。
是什么推動(dòng)
原文鏈接:Ilya離職后第一個(gè)動(dòng)作:點(diǎn)贊了這篇論文,網(wǎng)友搶著傳看
聯(lián)系作者
文章來(lái)源:量子位
作者微信:QbitAI
作者簡(jiǎn)介:追蹤人工智能新趨勢(shì),關(guān)注科技行業(yè)新突破