OpenAI o1之父諾姆訪談全文：測試時間計算是突破模型能力瓶頸的鑰匙，o1的意義被低估了

AIGC動態8個月前發布智猩猩GenAI

250 0 0

Day1前專訪O1之父諾姆：測試時間計算是突破模型能力瓶頸的鑰匙、O1的意義被低估了、不要再炒作提示技術

原標題：OpenAI o1之父諾姆訪談全文：測試時間計算是突破模型能力瓶頸的鑰匙，o1的意義被低估了
文章來源：智猩猩GenAI
內容字數：32998字

第四屆全球自動駕駛峰會及Noam Brown對大型語言模型的展望

本文結合兩則信息：一則為第四屆全球自動駕駛峰會的預告，另一則為OpenAI研究科學家Noam Brown接受采訪的內容摘要。我們將分別對這兩部分內容進行概括。

1. 第四屆全球自動駕駛峰會

1月14日，第四屆全球自動駕駛峰會將在北京舉辦。峰會將涵蓋自動駕駛領域的多個重要方面，包括：

主會場：開幕式、端到端自動駕駛創新論壇以及城市NOA（Navigation on Autopilot）專題論壇。這些論壇將探討自動駕駛技術的最新進展和未來發展方向。
分會場：自動駕駛視覺語言模型和自動駕駛世界模型兩場技術研討會。研討會將深入探討特定技術領域的最新研究成果和挑戰。

峰會演講嘉賓已全部確定，具體議程可參考文末海報。感興趣的讀者可以申請免費票或購票參會。

2. Noam Brown對大型語言模型的展望

OpenAI研究科學家Noam Brown在接受采訪時，分享了他對大型語言模型（LLM）能力、測試時間計算以及AGI發展時間線的看法：

模型能力瓶頸：Brown認為LLM并非遇到硬性瓶頸，而是面臨經濟上的軟性限制。單純依靠擴大預訓練規模的擴展方式成本過高，最終不可持續。
測試時間計算的潛力：Brown對測試時間計算非常看好，認為這是提升LLM能力性價比的關鍵。他估計測試時間計算的成本還有至少八個數量級的提升空間。
AGI發展時間線的修正：Brown之前預估AGI實現至少需要十年，現在他認為這個時間線被大大縮短了，主要是因為測試時間計算的突破。他認為未來可能面臨其他挑戰，但不會比已解決的問題更難。
O1模型的意義與應用：O1模型是測試時間計算的成果，在解決復雜推理問題方面優于GPT-4，但并非在所有任務上都優于GPT-4。Brown預計未來會融合成一個模型，兼具O1的深度推理能力和GPT-4的快速響應能力。O1已經在編碼和解決復雜科學問題方面展現出潛力。
模型自主性與工具輔助：Brown認為未來的模型需要更強的自主性，能夠自行分解復雜問題并找到解決步驟。他認為目前的輔助工具和提示工程技術是權宜之計，最終會被更強大的模型取代。
學術界的作用與研究方向：Brown認為學術界應專注于研究新型架構和擴展方法，而不是單純追求在現有基準測試上的微小提升。他建議關注能夠隨著數據和計算能力增長而良好擴展的技術。
對未來人工智能發展的展望：Brown對模型在科學研究，特別是推動化學、生物學和數學等領域的發展充滿期待，認為模型將成為研究人員的強大合作伙伴。他還認為多模態模型和機器人技術將有顯著發展，但機器人技術受限于硬件迭代的緩慢速度。