AIGC動態歡迎閱讀
原標題:三個月建成“世界最大”Nvidia GPU 計算集群,馬斯克:不夠,還要再加10萬個
關鍵字:公告,模型,人工智能,芯片,工作
文章來源:AI前線
內容字數:0字
內容摘要:
整理 | 褚杏娟
9 月 2 日,馬斯克發文稱,其人工智能公司 xAI 的團隊已經上線了一臺被稱為“Colossus”的訓練集群,總共有 100000 個英偉達的 H100 GPU。
馬斯克表示,他的團隊花了 122 天才完成 Colossus 的上線過程。由于 xAI 在 6 月份才選定孟菲斯作為其所在地,因此 Colossus 的部署速度可以說是非常快的。馬斯克表示,在接下來的幾個月里,Colossus 的規模將擴大一倍,達到 200,000 個 GPU,其中 5 萬個是更為先進的 H200。
一位 X 用戶指出,這一發展的實際規模超過了迄今為止發布的每個主要模型。相比之下,OpenAI 最強大的模型才使用了 80000 個 GPU。
Nvidia 的 H200 是市場上最搶手的芯片之一,盡管最近被該公司于 2024 年 3 月推出的最新 Blackwell 芯片超越。相比之下,H200 配備 141 GB 的 HBM3E 內存和 4.8 TB/s 的帶寬,Blackwell 的最高容量比 H200 高出 36.2%,總帶寬高出 66.7%。
Nvidia 在 Colossus
原文鏈接:三個月建成“世界最大”Nvidia GPU 計算集群,馬斯克:不夠,還要再加10萬個
聯系作者
文章來源:AI前線
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...