AIGC動態歡迎閱讀
原標題:OpenAI把微軟電網搞崩!GPT-6被曝25年發布,訓練刷爆10萬張H100
關鍵字:模型,微軟,電力,電網,項目
文章來源:新智元
內容字數:7106字
內容摘要:
新智元報道編輯:編輯部
【新智元導讀】GPT-5還未發布,GPT-6已經在路上了?微軟工程師曝出,為GPT-6搭建10萬個H100訓練集群,整個電網卻被搞崩。通往AGI大關,還需要電力難題。GPT-6也被電力卡脖子了——部署十萬個H100時,整個電網發生了崩潰!
就在剛剛,微軟工程師爆料,10萬個H100基建正在緊鑼密鼓地建設中,目的就是訓練GPT-6。
微軟工程師吐槽說,團隊在部署跨區域GPU間的infiniband級別鏈接時遇到了困難。
Corbitt:為何不考慮直接將所有設備部署在同一個地區呢?
微軟工程師:這確實是我們最初的方案。但問題是,一旦我們在同一個州部署超過100,000個H100 GPU,電網就會因無法負荷而崩潰。
這是創業者Kyle Corbitt在社交媒體上,分享自己與一位微軟工程師關于GPT-6訓練集群項目的對話
沒想到,GPT-5還沒發,微軟就已悄悄為OpenAI開始訓練GPT-6了。
同在今天,一張「OpenAI內部時間線」圖片在網上瘋轉。
圖中清晰標注出:OpenAI早在2022年8月-10月之間開始了GPT-5(代號Arrakis)的訓練,2023
原文鏈接:OpenAI把微軟電網搞崩!GPT-6被曝25年發布,訓練刷爆10萬張H100
聯系作者
文章來源:新智元
作者微信:AI_era
作者簡介:智能+中國主平臺,致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展,關注人機融合、人工智能和機器人對人類社會與文明進化的影響,領航中國新智能時代。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...