OpenAI正在嘗試調整戰略
原標題:Ilya宣判后GPT-5被曝屢訓屢敗,一次訓數月,數據要人工從頭構建
文章來源:量子位
內容字數:7074字
GPT-5發布進展滯后,OpenAI面臨挑戰
近期關于GPT-5的消息引發廣泛關注。OpenAI在連續12場發布會后,未能展示GPT-5的影子,華爾街日報的爆料透露,GPT-5已經完成至少兩輪長達數月的訓練,但每次訓練都遇到新問題。OpenAI目前正在雇傭專門人員為GPT-5從頭創建數據,盡管使用合成數據,但效率仍不足以滿足預訓練需求。
高成本與低效益
根據市場估算,一次長達6個月的訓練算力成本高達5億美元,而GPT-4的訓練成本僅超1億美元。盡管GPT-5在性能上有所期待,如科學探索和更少錯誤,但與其消耗的巨大成本相比,提升并不明顯。OpenAI前CTO曾指出,預訓練的時代或將結束,這與當前的進展相呼應。
新策略與市場預期
為了應對挑戰,OpenAI正考慮調整戰略,推出o1、o3系列。盡管GPT-5的發布未定,投資者仍對其未來寄予厚望,OpenAI近期融資66億美元,估值升至1570億美元。盡管如此,GPT-5的發展歷程坎坷,曾放棄代號為Arrakis的模型,表明需要巨大的計算資源和時間來訓練更大規模的模型。
ARC-AGI測試的突破
在o3系列的發布中,OpenAI實現了ARC-AGI測試的顯著突破。o3在公共任務上取得了高達91.5%的準確率,顯示出其在解決復雜問題上的潛力。盡管成本高昂,但o3的成績證明了架構的重要性,并為AGI的探索提供了新思路。
未來展望
盡管o3在某些簡單任務上仍存在不足,AGI的愿景依舊吸引人。專家認為,o3的開發標志著AI領域的重要進展,但仍需在更廣泛的任務上取得突破。OpenAI最新的研究成果顯示,通過推理模型的對齊,可以顯著提高模型的安全性,未來的研究將集中于如何在模型中進一步實現這一目標。
聯系作者
文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢,關注科技行業新突破