OpenAI o1: 合成數據與推理搜索

AIGC動態歡迎閱讀

原標題：OpenAI o1: 合成數據與推理搜索
關鍵字：模型,數據,效果,問題,能力
文章來源：智猩猩GenAI
內容字數：0字

內容摘要：

GTIC 2024中國AI PC創新峰會將于10月11日，在2024上海國際消費電子展TechG同期舉辦，峰會將邀請8位嘉賓深入探討生成式AI如何推動PC產業進入第三次變革。目前，聯想集團首席研究員顏毅強等7位嘉賓已確定出席，將分別圍繞面向大模型的個人計算體系和交互、AIGC在端側產品的發展、RISC-V AI芯片、聯合模型和硬件的優化適配平臺MLGuider、操作系統與AI技術結合探索等議題進行演講，歡迎報名～趁著 OpenAI o1 的發布，難得從每日忙碌的產品研發中抽出點時間來，學習跟進一下最近非常火熱的 LLM 新范式。01背景簡介首先推薦閱讀一下拾象的《LLM 的?范式轉移：RL 帶來新的 Scaling Law》，很好地科普了一下基于 RL 的新 LLM scaling 范式。
之前我們常說的 scaling law 一般指的是 pre-train 階段通過算力、數據、模型參數量的提升來不斷提升模型智能水平。不過最近一年來看，碰到了不少瓶頸：
算力上我們受限于超大規模訓練集群的各種工程挑戰，例如 LLaMA 3 的 paper 里就提到他們的萬卡集群每兩小時就會有壞卡問題出

原文鏈接：OpenAI o1: 合成數據與推理搜索

聯系作者

文章來源：智猩猩GenAI
作者微信：
作者簡介：