接下來將是超級智能：智能體、推理、理解和自我意識。

原標題：Ilya Sutskever發聲：預訓練將結束，數據壓榨到頭了
文章來源：Founder Park
內容字數：13151字

Ilya Sutskever 在 NeurIPS 2024 上的演講要點

本周五，OpenAI 的前首席科學家 Ilya Sutskever 在溫哥華的神經信息處理系統會議 NeurIPS 2024 上發表了重要演講，探討了人工智能的發展趨勢與未來方向。他的觀點令人震驚，主要集中在數據的稀缺性和未來模型的自主性上。

1. 數據的峰值與未來挑戰

Sutskever 認為，當前可用的數據已經接近枯竭，未來在模型訓練中將面臨巨大的挑戰。他將這一現象比作化石燃料的消耗，指出互聯網中的人類生成內容是有限的。他表示：“我們已經達到了數據的峰值，未來不會再有更多數據。”這表明，人工智能行業必須找到更有效的方法來利用現有的數據。

2. 模型的自主性與推理能力

Sutskever 預測，下一代模型將展現出真正的自主性和推理能力。他提到，未來的 AI 系統將能夠以類似“思考”的方式逐步解決問題，而非僅僅依賴已知的模式匹配。這將使得這些系統的行為更加不可預測，甚至可能超越當今最優秀人類的表現。

3. 進化生物學的啟示

在演講中，Sutskever 將 AI 系統的擴展性與進化生物學進行了比較，強調不同物種之間的腦與體重比例關系，并提出 AI 可能會發現全新的擴展路徑，超越當前的預訓練方法。

4. 對未來的展望與思考

他表示，隨著 AI 的發展，系統將會變得越來越復雜，推理能力將成為一個核心特征。Sutskever 認為，盡管當前的模型仍存在幻覺現象，但未來具有推理能力的模型將能夠自我糾正，從而減少錯誤的發生。

5. 對人類與 AI 關系的思考

在問答環節中，Sutskever 對于 AI 是否會取代人類或需要權利的討論表達了謹慎的態度，指出這些問題需要更深入的思考。對于長遠的未來，他認為目前的 AI 系統并不具備強大的智能，仍在推理的初期階段。

總的來說，Ilya Sutskever 的演講揭示了人工智能領域面臨的新挑戰和未來可能的發展方向，強調了數據稀缺性和推理能力的重要性，促使業界重新思考 AI 的本質與潛力。

聯系作者

文章來源：Founder Park
作者微信：
作者簡介：來自極客公園，專注與科技創業者聊「真問題」。