Meta宣布全新訓(xùn)推一體加速器:完全集成PyTorch 2,性能3倍提升
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:Meta宣布全新訓(xùn)推一體加速器:完全集成PyTorch 2,性能3倍提升
關(guān)鍵字:芯片,堆棧,模型,編譯器,加速器
文章來(lái)源:機(jī)器之心
內(nèi)容字?jǐn)?shù):5800字
內(nèi)容摘要:
機(jī)器之心報(bào)道
編輯:杜偉、陳萍Meta 瘋狂砸入數(shù)十億美元,一部分招攬人才,一部分造芯片。Meta 正在不遺余力地想要在生成式 AI 領(lǐng)域趕上競(jìng)爭(zhēng)對(duì)手,目標(biāo)是投入數(shù)十億美元用于 AI 研究。這些巨資一部分用于招募 AI 研究員。但更大的一部分用于開(kāi)發(fā)硬件,特別是用于運(yùn)行和訓(xùn)練 Meta AI 模型的芯片。
在英特爾宣布其最新人工智能加速器硬件的第二天,Meta 便迅速公布了關(guān)于芯片研發(fā)的最新成果:下一代 MTIA(Meta Training and Inference Accelerator),其中 MTIA 是專(zhuān)為 Meta AI 工作負(fù)載而設(shè)計(jì)的定制芯片系列。分析認(rèn)為,Meta 此舉意在減少對(duì)英偉達(dá)及其他外部公司芯片的依賴(lài)。其實(shí),Meta 在去年就推出了第一代 MTIA,與前代相比,最新版本顯著改進(jìn)了性能,并有助于強(qiáng)化內(nèi)容排名和推薦廣告模型。從 Meta 官方介紹中我們可以看出,MTIA v2 目前已在其 16 個(gè)數(shù)據(jù)中心投入使用,與 MTIA v1 相比,整體性能提高了 3 倍。不過(guò)最早的 MTIA v1 預(yù)計(jì)要到 2025 年才會(huì)發(fā)布,MTIA v2 只能再等等了,但 Meta
原文鏈接:Meta宣布全新訓(xùn)推一體加速器:完全集成PyTorch 2,性能3倍提升
聯(lián)系作者
文章來(lái)源:機(jī)器之心
作者微信:almosthuman2014
作者簡(jiǎn)介:專(zhuān)業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)