AIGC動態歡迎閱讀

原標題：AI芯片競爭白熱化！Meta官宣最新AI推理芯片！性能提升300%，支撐Llama高負載計算
關鍵字：芯片,硬件,模型,編譯器,方面
文章來源：夕小瑤科技說
內容字數：3433字

內容摘要：

夕小瑤科技說 原創作者 | Zicy在算力為王的大模型時代，AI技術“三巨頭”：微軟，谷歌，Meta，在自研芯片領域卷的是熱火朝天。
最早是微軟，在去年宣布基于臺積電5nm技術制造了Azure Maia 100及Azure Cobalt 100芯片。前幾天，谷歌也發布了自研數據中心芯片Axion，以應對高昂的AI競賽成本。
這次Meta又有了大動作，發布第二代芯片Meta Training and Inference Accelerator v2(MTIAv2)。
話不多說，先來看看MTIAv2的硬件表現。
容量、計算、帶寬翻倍在工藝和性能方面，相比于Meta去年5月推出的MTIAv1采用的臺積電7nm芯片，MTIAv2則換上了臺積電5nm芯片，頻率從800MHz提升到1.35GHz，稠密算力達到上一代的近3.5倍，稀疏算力達到上一代的近7倍，INT8精度下達到708TFLOPS。
這主要得益于稀疏計算的流水線相關的體系結構的改進，以及本地PE存儲、片上SRAM以及LPDDR5容量的翻倍，并將其帶寬增加到3.5倍。
能耗方面，從25W提升到了90W。值得一提的是，英偉達H100的功耗約

原文鏈接：AI芯片競爭白熱化！Meta官宣最新AI推理芯片！性能提升300%，支撐Llama高負載計算

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內外機構投資人，互聯網大廠中高管和AI公司創始人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189