接下來將是超級智能：智能體、推理、理解和自我意識。

原標題：Ilya Sutskever發(fā)聲：預訓練將結束，數(shù)據(jù)壓榨到頭了
文章來源：Founder Park
內容字數(shù)：13151字

Ilya Sutskever 在 NeurIPS 2024 上的演講要點

本周五，OpenAI 的前首席科學家 Ilya Sutskever 在溫哥華的神經(jīng)信息處理系統(tǒng)會議 NeurIPS 2024 上發(fā)表了重要演講，探討了人工智能的發(fā)展趨勢與未來方向。他的觀點令人震驚，主要集中在數(shù)據(jù)的稀缺性和未來模型的自主性上。

1. 數(shù)據(jù)的峰值與未來挑戰(zhàn)

Sutskever 認為，當前可用的數(shù)據(jù)已經(jīng)接近枯竭，未來在模型訓練中將面臨巨大的挑戰(zhàn)。他將這一現(xiàn)象比作化石燃料的消耗，指出互聯(lián)網(wǎng)中的人類生成內容是有限的。他表示：“我們已經(jīng)達到了數(shù)據(jù)的峰值，未來不會再有更多數(shù)據(jù)。”這表明，人工智能行業(yè)必須找到更有效的方法來利用現(xiàn)有的數(shù)據(jù)。

2. 模型的自主性與推理能力

Sutskever 預測，下一代模型將展現(xiàn)出真正的自主性和推理能力。他提到，未來的 AI 系統(tǒng)將能夠以類似“思考”的方式逐步解決問題，而非僅僅依賴已知的模式匹配。這將使得這些系統(tǒng)的行為更加不可預測，甚至可能超越當今最優(yōu)秀人類的表現(xiàn)。

3. 進化生物學的啟示

在演講中，Sutskever 將 AI 系統(tǒng)的擴展性與進化生物學進行了比較，強調不同物種之間的腦與體重比例關系，并提出 AI 可能會發(fā)現(xiàn)全新的擴展路徑，超越當前的預訓練方法。

4. 對未來的展望與思考

他表示，隨著 AI 的發(fā)展，系統(tǒng)將會變得越來越復雜，推理能力將成為一個核心特征。Sutskever 認為，盡管當前的模型仍存在幻覺現(xiàn)象，但未來具有推理能力的模型將能夠自我糾正，從而減少錯誤的發(fā)生。

5. 對人類與 AI 關系的思考

在問答環(huán)節(jié)中，Sutskever 對于 AI 是否會取代人類或需要權利的討論表達了謹慎的態(tài)度，指出這些問題需要更深入的思考。對于長遠的未來，他認為目前的 AI 系統(tǒng)并不具備強大的智能，仍在推理的初期階段。

總的來說，Ilya Sutskever 的演講揭示了人工智能領域面臨的新挑戰(zhàn)和未來可能的發(fā)展方向，強調了數(shù)據(jù)稀缺性和推理能力的重要性，促使業(yè)界重新思考 AI 的本質與潛力。

聯(lián)系作者

文章來源：Founder Park
作者微信：
作者簡介：來自極客公園，專注與科技創(chuàng)業(yè)者聊「真問題」。