AIGC動態歡迎閱讀
原標題:告別微軟,姜大昕帶領這支精英團隊攀登Scaling Law,萬億參數模型已有預覽版
關鍵字:模型,解讀,報告,數據,參數
文章來源:機器之心
內容字數:11222字
內容摘要:
機器之心原創
作者:張倩攀登 Scaling Law,打造萬億參數大模型,前微軟 NLP 大牛姜大昕披露創業路線圖。前段時間,OpenAI 科學家 Jason Wei 的一份作息時間表引發了廣泛關注。表中有很多讓人看了會心一笑的梗,比如「9 點 45:背誦 OpenAI 章程,向最優化的神禱告,學習《苦澀的教訓》」「10 點用 Google Meet 開會,討論怎么在更多數據上訓練更大的模型」「11 點寫代碼,用來在更多數據上訓練更大的模型」「1 點:實操,在更多數據上訓練更大的模型」「4 點:對用更多數據訓練的更大的模型進行提示工程」……在短短的十幾行字中,「在更多數據上訓練更大的模型」出現了四次,而且《苦澀的教訓》也毫不意外地早早出場。對于一家信仰 Scaling Law 并因此而取得巨大成功的公司來說,這些表述可能不僅僅是在玩梗。在公司官網公布的核心價值觀里,OpenAI 寫到,「我們相信 scale(規模)—— 在我們的模型、我們的系統、我們自己、我們的流程和我們的抱負中 —— 是有魔力的。如果對此產生了懷疑,那就擴大 scale。」
多年來,依靠對于自身技術路線的充分自信和堅
原文鏈接:告別微軟,姜大昕帶領這支精英團隊攀登Scaling Law,萬億參數模型已有預覽版
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...