OpenAI研究員首次提出「AGI時間」進化論！o1數學已達「分鐘級AGI」

原標題：OpenAI研究員首次提出「AGI時間」進化論！o1數學已達「分鐘級AGI」
文章來源：新智元
內容字數：12395字

OpenAI科學家就LLM能否實現AGI展開激烈辯論

近期，OpenAI科學家就大型語言模型(LLM)能否通過現有路線實現通用人工智能(AGI)展開了激烈的辯論。辯論雙方觀點針鋒相對，一方認為現有技術足以實現AGI，另一方則持懷疑態度，認為需要更多質的飛躍。

1. 辯論核心：LLM能否解決重大數學難題？

   辯論的核心在于LLM能否解決像P≠NP或黎曼猜想這樣的重大數學猜想。正方代表Sébastien Bubeck認為，LLM的進步速度驚人，通過持續擴展，例如增加模型參數和訓練數據，最終可以達到解決這些難題的水平，甚至預測明年LLM就能獲得國際數學奧林匹克競賽的金牌。他認為，衡量AI進步的真正標準應該是“AGI時間”，隨著模型能力的提升，“秒級AGI”、“分鐘級AGI”最終將進化為“周級AGI”，從而具備解決復雜問題的潛力。

2. 反方觀點：創造性飛躍和長期推理的缺失

   反方代表Tom McCoy則持反對意見，他認為僅僅依靠現有方法的擴展不足以解決復雜的數學猜想。他指出，解決這些難題需要創造性的飛躍，即提出全新的證明思路，而不僅僅是現有想法的組合。此外，LLM缺乏長期推理和規劃能力，以及容易出現幻覺等問題，都限制了其解決復雜數學問題的可能性。他認為，LLM需要質變，而不是簡單的規模擴大。

3. 正方反駁：組合與后訓練的潛力

   針對反方提出的問題，Sébastien反駁道，創造性本身就是一種“組合”，通過不斷將現有知識和想法組合，并引入隨機性，就能產生突破性的成果。他還認為，LLM目前的能力不足，是由于訓練數據中某些任務表示不充分導致的，可以通過后訓練來彌補。

4. 反方回應：后訓練無法改變模型根本特性

   Tom回應道，即使經過后訓練，LLM基于自回歸的根本特性依然存在，這限制了其解決復雜問題的潛能。他認為，需要從預訓練階段就明確且直接地對推理進行訓練，才能達到所需的穩健性。

5. 雙方：人機協作的重要性

   雙方都認同人機協作的重要性。Sébastien認為，AI將與人類合作解決問題，并分享了AI輔助其研究的經驗。Tom也認為AI可以與人類合作，但這并不意味著它可以做出數學創新。

6. 反方擔憂：指數級增長困境

   Tom提出了另一個擔憂，即即使假設有無限的時間和數據，擴展也可能面臨指數級增長困境。性能提升隨著規模擴大是按對數增長的，這意味著需要更多指數級的數據或推理時間才能繼續看到性能提升，這在實際操作中可能不可行。

7. 總結：樂觀與懷疑并存

   最終，雙方觀點存在分歧。Sébastien對LLM的未來發展持樂觀態度，認為通過持續擴展和改進，LLM最終能夠實現AGI。Tom則對僅靠擴展規模表示懷疑，他認為需要在長距離推理、可靠性、創造力等方面進行根本性的改進，才能實現AGI。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。