AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：稀疏算力暴漲591%！Meta推出5nm AI訓(xùn)練芯片，自研AI芯片盛世來(lái)了
關(guān)鍵字：芯片,模型,系統(tǒng),加速器,帶寬
文章來(lái)源：智東西
內(nèi)容字?jǐn)?shù)：6861字

內(nèi)容摘要：

最大功耗90W，INT8稀疏計(jì)算性能達(dá)到708TFLOPS。
作者|ZeR0
編輯|漠影
智東西4月11日?qǐng)?bào)道，美國(guó)AI三巨頭不僅在大模型賽道爭(zhēng)奇斗艷，還紛紛卷起自研AI芯片。昨天“AI界汪峰”谷歌剛推出新款云端定制芯片，今天Meta就將硅谷注意力吸引走，重磅宣布推出第二代自研AI訓(xùn)練和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用臺(tái)積電7nm芯片。MTIA v2則換上了臺(tái)積電5nm，每PE緩存從上一代的128KB增加到384KB，頻率從800MHz提升到1.35GHz，INT8精度下的稠密算力達(dá)到上一代的近3.5倍，稀疏算力達(dá)到上一代的近7倍，達(dá)到708TFLOPS。
有意思的是，MTIA v2的面積僅變大13%，不過(guò)功耗增加到上一代的3.6倍，達(dá)到90W，上一代只有25W。
相比之下，英偉達(dá)H100 PCIe的最大功耗約在350~500W區(qū)間（SXM版高達(dá)700W），INT8精度下稀疏算力為3026TFLOPS。
在平臺(tái)層，通過(guò)2倍的設(shè)備數(shù)量和2插槽CPU，MTIA v2能夠?qū)崿F(xiàn)6倍的模型服務(wù)吞吐量、比第一代MTIA系統(tǒng)提高多達(dá)1.5倍的每瓦性能。
與MTI

原文鏈接：稀疏算力暴漲591%！Meta推出5nm AI訓(xùn)練芯片，自研AI芯片盛世來(lái)了

聯(lián)系作者

文章來(lái)源：智東西
作者微信：zhidxcom
作者簡(jiǎn)介：智能產(chǎn)業(yè)新媒體！智東西專注報(bào)道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來(lái)的千行百業(yè)產(chǎn)業(yè)升級(jí)。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級(jí)。