稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了

AIGC動態(tài)歡迎閱讀

原標題：稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了
關鍵字：芯片,模型,系統(tǒng),加速器,帶寬
文章來源：智東西
內(nèi)容字數(shù)：6861字

內(nèi)容摘要：

最大功耗90W，INT8稀疏計算性能達到708TFLOPS。
作者|ZeR0
編輯|漠影
智東西4月11日報道，美國AI三巨頭不僅在大模型賽道爭奇斗艷，還紛紛卷起自研AI芯片。昨天“AI界汪峰”谷歌剛推出新款云端定制芯片，今天Meta就將硅谷注意力吸引走，重磅宣布推出第二代自研AI訓練和推理芯片MTIA v2。Meta去年5月推出的第一代MTIA v1采用臺積電7nm芯片。MTIA v2則換上了臺積電5nm，每PE緩存從上一代的128KB增加到384KB，頻率從800MHz提升到1.35GHz，INT8精度下的稠密算力達到上一代的近3.5倍，稀疏算力達到上一代的近7倍，達到708TFLOPS。
有意思的是，MTIA v2的面積僅變大13%，不過功耗增加到上一代的3.6倍，達到90W，上一代只有25W。
相比之下，英偉達H100 PCIe的最大功耗約在350~500W區(qū)間（SXM版高達700W），INT8精度下稀疏算力為3026TFLOPS。
在平臺層，通過2倍的設備數(shù)量和2插槽CPU，MTIA v2能夠?qū)崿F(xiàn)6倍的模型服務吞吐量、比第一代MTIA系統(tǒng)提高多達1.5倍的每瓦性能。
與MTI

原文鏈接：稀疏算力暴漲591%！Meta推出5nm AI訓練芯片，自研AI芯片盛世來了

聯(lián)系作者

文章來源：智東西
作者微信：zhidxcom
作者簡介：智能產(chǎn)業(yè)新媒體！智東西專注報道人工智能主導的前沿技術發(fā)展，和技術應用帶來的千行百業(yè)產(chǎn)業(yè)升級。聚焦智能變革，服務產(chǎn)業(yè)升級。