73年前，香農已經給大模型發展埋下一顆種子

AIGC動態歡迎閱讀

原標題：73年前，香農已經給大模型發展埋下一顆種子
關鍵字：英語,冗余,字母,語言,單詞
文章來源：機器之心
內容字數：0字

內容摘要：

機器之心報道
編輯：澤南、杜偉AI 考古，追溯到了祖師爺頭上。當今 AI 領域爆火的大語言模型（LLM），其原理是香農提出來的？
今天，普林斯頓大學教授承現峻（Sebastian Seung）拋出了這樣一個觀點：1951 年，在貝爾實驗室（總部位于新澤西州 Murray Hill）工作的克勞德?香農提出了預測下一個單詞的問題，這成為了當前大語言模型（LLM）的種子。
如今很多看似新潮前沿的概念，其實距離提出已經相隔了好幾十年，即使在計算機科學這樣的新興領域，例子也屢見不鮮。這個觀點以及提到的 Murray Hill 引起熱議，圖靈獎得主、Meta 首席科學家 LeCun 表示，新澤西州的 Murray Hill、Florham Park 和普林斯頓都「誕生」了很多有影響力的工作。
LeCun 又列舉了很多知名的研究成果：
Hopfield 網絡（美國科學家 Hopfield 同時在貝爾實驗室和普林斯頓大學任職）。
ConvNets
Boosting/Adaboost
非負矩陣分解
支持向量機（SVM）和核機
結構化預測
計算學習理論 / VC 理論中的大量內容那么說在這其中，香農給如今

原文鏈接：73年前，香農已經給大模型發展埋下一顆種子

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺