Hinton萬字訪談：用更大模型「預測下一個詞」值得全力以赴

AIGC動態歡迎閱讀

原標題：Hinton萬字訪談：用更大模型「預測下一個詞」值得全力以赴
關鍵字：模型,符號,大腦,向量,直覺
文章來源：機器之心
內容字數：30453字

內容摘要：

機器之心報道
機器之心編輯部「這份訪談的每一秒都是精華。」最近，圖靈獎得主 Geoffrey Hinton 的一個訪談視頻得到了網友的高度評價。
?
視頻鏈接：https://www.youtube.com/watch?v=tP-4njhyGvo&t=660s
在訪談中，Hinton 談到了很多話題，包括當前大模型的技術路線、多模態學習的重要性、 數字計算與共享知識、智能系統的意識與情感以及他的合作者和優秀學生……
Hinton 認為，大型語言模型通過尋找不同領域的共同結構來進行編碼，這種能力使它們能夠壓縮信息并形成深層次的理解，發現現實世界中人類尚未發現的萬事萬物的聯系，這是創造力的來源。他還提到，通過預測下一個符號，模型實際上必須執行一定程度的推理，而不是像很多人所說的大模型并不具備推理能力。隨著模型規模的增加，這種推理能力也將變得越來越強。這是一個值得全力以赴的方向。
在回憶和 Ilya 的師生合作時，Hinton 提到，Ilya 擁有很好的直覺。他很早就預見到，增大模型的規模是有用的，盡管當時 Hinton 并不看好這個想法。事實證明，Ilya 的直覺是很準的。整個訪談時間跨度

原文鏈接：Hinton萬字訪談：用更大模型「預測下一個詞」值得全力以赴

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺