世界最強(qiáng)AI訓(xùn)練集群上線

AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:世界最強(qiáng)AI訓(xùn)練集群上線
關(guān)鍵字:人工智能,集群,公司,模型,科技
文章來(lái)源:大數(shù)據(jù)文摘
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
大數(shù)據(jù)文摘受權(quán)轉(zhuǎn)載自頭部科技
文丨俊俊
特斯拉首席執(zhí)行官埃隆·馬斯克(Elon Musk)接對(duì)當(dāng)前人工智能領(lǐng)域普遍缺失的“親人類(lèi)”原則表達(dá)了深切憂(yōu)慮,所以從OpenAI撤資,創(chuàng)立xAI。
近日,馬斯克雄心勃勃地設(shè)定目標(biāo),期望自家的人工智能模型能在年內(nèi)成為“世界上最強(qiáng)大的人工智能模型。”
之所以這么期望,源于馬斯克旗下人工智能初創(chuàng)公司xAI機(jī)器人的最新研發(fā)進(jìn)展:
xAI公司在短短19天內(nèi),于美國(guó)田納西州孟菲斯市搭建完成了一個(gè)堪稱(chēng)世界最強(qiáng)的AI訓(xùn)練集群——孟菲斯超級(jí)集群(Memphis Supercluster)。
超強(qiáng)算力訓(xùn)練集群
為什么敢說(shuō)是全世界最強(qiáng)大的 AI 訓(xùn)練集群?
據(jù)馬斯克描述,孟菲斯超級(jí)集群配備了令人咋舌的 10萬(wàn)個(gè)英偉達(dá) H100 GPU,一舉刷新業(yè)界紀(jì)錄,成為全球矚目的焦點(diǎn)。
其采用液冷散熱,并使用單一的RDMA (遠(yuǎn)程直接數(shù)據(jù)存取)網(wǎng)絡(luò)互連架構(gòu),是目前全世界最強(qiáng)大的 AI訓(xùn)練集群。
10萬(wàn)塊H100的算力如何?
OpenAI訓(xùn)練GPT-4用了2.5萬(wàn)塊A100 GPU,10萬(wàn)塊H100的算力大約是OpenAl的20倍左右。僅僅是讓這個(gè)超級(jí)計(jì)算中心維持運(yùn)轉(zhuǎn),所需要的
聯(lián)系作者
文章來(lái)源:大數(shù)據(jù)文摘
作者微信:
作者簡(jiǎn)介:

粵公網(wǎng)安備 44011502001135號(hào)