原標題：圖靈獎得主楊立昆：統治欲望源于生存需求，而非智能水平，AI 不會有這種想法
文章來源：人工智能學家
內容字數：37935字

Yann LeCun 與 Brian Keating 的對話：AI 的現狀與未來

本文總結了Meta首席AI科學家Yann LeCun與加州大學圣地亞哥分校杰出物理學教授Brian Keating的對話，探討了人工智能的現狀、挑戰和未來發展方向。對話中，LeCun展現了其深厚的物理學造詣，并對AI領域的一些關鍵問題提出了獨到的見解。

1. AI 的局限性與貓的智能

LeCun指出，目前最先進的大語言模型雖然在語言處理方面表現出色，但對物理世界缺乏理解，其智能水平甚至不及貓。貓能夠規劃、推理，并理解物理世界，這是當前AI系統無法復制的能力。這凸顯了AI在理解真實世界方面的局限性。

2. 超越大語言模型：理解真實世界

LeCun認為，未來AI領域的一個重大挑戰是超越自回歸式大語言模型架構，發展能夠理解真實世界，并獲得某種常識的架構。他強調，大語言模型并非AI的全部，需要探索新的架構，例如他提出的JEPA架構，以實現對真實世界的理解和規劃能力。

3. JEPA 架構與科學發現

LeCun詳細解釋了JEPA（聯合嵌入預測架構），這是一種能夠學習圖像和視頻良好表征的架構。他認為，JEPA能夠幫助AI系統找到對現實的合適表征，去除無關信息，從而做出更準確的預測。這與科學發現的本質相吻合，即找到合適的表征和相關變量來解釋現象。

4. 強化學習的低效性與自監督學習的重要性

LeCun指出，強化學習的效率非常低，無法解釋人類和動物的高效學習能力。他認為，自監督學習才是人類和動物學習的主要方式，大語言模型的成功正是證明了自監督學習力量的最好例子。他將自監督學習比作AI領域的“暗物質”，是AI發展中不可或缺的部分。

5. AGI 的定義與實現時間表

LeCun避免使用AGI（通用人工智能）這個詞，因為他認為人類的智能是極其專門化的。他更傾向于使用“人類水平的AI”（AMI）這個術語。他認為，要達到大眾認可的人類級智能，即使在最理想的情況下，也需要5-6年甚至更長時間。

6. AI 安全與目標驅動AI

LeCun認為，尋找可證明安全的AI系統是不可能的，但可以通過工程手段構建安全系統。他提倡構建目標驅動AI，這種系統通過優化目標來產生輸出，并設置護欄條件來限制其行為，從而避免AI系統對人類造成傷害。

7. AI 的變革性影響與未來展望

LeCun對AI的未來發展持樂觀態度。他認為，AI增強人類智能的影響力可能堪比15世紀的印刷術，將對人類社會產生深遠的影響。他相信，人類水平的AI是一個產品需求，一旦實現，將對人類社會產生巨大的影響。

總而言之，LeCun與Keating的對話深入探討了AI的現狀、挑戰和未來發展方向，為我們理解AI的本質和發展趨勢提供了寶貴的參考。對話中，LeCun不僅展現了其在AI領域的深厚造詣，也表達了其對AI未來發展的樂觀態度和對AI安全性的重視。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構