AIGC動態歡迎閱讀

原標題：剛剛！馬斯克履約開源Grok，超越Llama成全球最大開源模型，卻被懷疑是作秀？！
關鍵字：解讀,人工智能,模型,表示,算法
文章來源：AI前線
內容字數：8099字

內容摘要：

整理| 李冬梅、褚杏娟
本周一，馬斯克在他的社交媒體平臺 X 上宣布 xAI 開源 Grok，這也兌現了他上周的開源承諾。截至目前，Grok 已經在 GitHub 上獲得了 4.3k 顆 Star。
開源地址：https://github.com/xai-org/grok-1
Grok-1 是一個由 xAI 從頭訓練的 3140 億參數的混合專家模型，其中 25% 的權重來處理給定的標記。xAI 這次發布的是大型語言模型 Grok-1 的基本模型權重和網絡架構，使用了 Apache-2.0 許可證。
根據介紹，Grok 的架構是在 2023 年 10 月使用自定義訓練堆棧在 JAX 和 Rust 上開發的，采用了創新的神經網絡設計方法。
“該版本是 Grok-1 預訓練階段的原始基本模型檢查點，該階段于 2023 年 10 月宣告結束。這意味著該模型并未針對任何一種特定的應用（比如對話和交談）進行了微調。”xAI 在博文里說道。
Andrew Kean Gao 總結了 Grok-1 的模型情況如下：
此外，他還將 Grok-1 與其他開源模型參數量進行了對比，Grok-1 是 Llam

原文鏈接：剛剛！馬斯克履約開源Grok，超越Llama成全球最大開源模型，卻被懷疑是作秀？！

聯系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發者和科學家，提供大模型最新資訊、AI技術分享干貨、一線業界實踐案例，助你全面擁抱AIGC。