AI「長腦子」了？LLM驚現「人類腦葉」結構并有數學代碼分區，MIT大牛新作震驚學界！

AIGC動態歡迎閱讀

原標題：AI「長腦子」了？LLM驚現「人類腦葉」結構并有數學代碼分區，MIT大牛新作震驚學界！
關鍵字：報告,特征,向量,研究者,結構
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：編輯部 HYZ
【新智元導讀】Max Tegmark團隊又出神作了！他們發現，LLM中居然存在人類大腦結構一樣的腦葉分區，分為數學/代碼、短文本、長篇科學論文等部分。這項重磅的研究揭示了：大腦構造并非人類獨有，硅基生命也從屬這一法則。LLM居然長「腦子」了？
就在剛剛，MIT傳奇大牛Max Tegmark團隊的新作，再次炸翻AI圈。
論文地址：https://arxiv.org/abs/2410.19750
他們發現，LLM學習的概念中，居然顯示出令人驚訝的幾何結構——
首先，它們形成一種類似人類大腦的「腦葉」；其次，它們形成了一種「語義晶體」，比初看起來更精確；并且，LLM的概念云更具分形特征，而非圓形。
具體而言，這篇論文探討了LLM中稀疏自編碼器（SAE）的特征向量表示的。
Max Tegmark團隊的研究結果表明，SAE特征所代表的概念宇宙在多個空間尺度上展現出有趣的結構，從語義關系的原子層面到整個特征空間的大規模組織。
這就為我們理解LLM的內部表征和處理機制，提供了全新的見解。
總之，這個研究實在太過震撼！網友直言：如果LLM和人腦相似，這實在是給人一種不

原文鏈接：AI「長腦子」了？LLM驚現「人類腦葉」結構并有數學代碼分區，MIT大牛新作震驚學界！