AIGC動態歡迎閱讀
原標題:為什么說 OpenAI o1是自Transformer以來最大的更新?
關鍵字:報告,思維,模型,系統,慢速
文章來源:AI范兒
內容字數:0字
內容摘要:
點擊上方藍字關注我們o1 是自 Transformer 技術以來最大的一次 AI 更新,但它并不是 AGI。OpenAI 確實在推動一些以前無法實現的關鍵進展,并為 AGI 鋪平了道路。這個新模型是朝著 AGI 邁出的重要一步,幾乎讓 AGI 觸手可及。
這正是 Ilya 預見到的,這也解釋了為什么 Sam 想要海量的計算資源。
重新定義縮放定律就像 Transformer 一樣,o1 能夠有效地用計算資源換取更高的準確性,不同的是,這次是在推理階段而不是預訓練階段。很多人之前預測LLM能力會停滯,主要是通過外推訓練擴展法則,但他們未曾預見到推理擴展才是真正突破收益遞減的關鍵。
這就是 Transformer 技術的 AlphaGo 時刻。所有大實驗室都在研究這個領域,OpenAI 是第一個推出的。
通向 AGI 的道路現在清晰了。接下來只要通過圖像、視頻、網絡互動、機器人感官數據等多種數據源來訓練這一模型。如果你能夠為某項任務設計一個強化學習獎勵機制(尤其是代碼和數學任務很容易做到這一點),那么你可以通過強化學習和推理計算的結合來大幅提升完成任務的效果。
OpenAI 還引入了一項全
原文鏈接:為什么說 OpenAI o1是自Transformer以來最大的更新?
聯系作者
文章來源:AI范兒
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...