AIGC動態歡迎閱讀
原標題:Meta發布新一代AI芯片MTIA,性能顯著提升
關鍵字:芯片,性能,模型,方面,堆棧
文章來源:AI范兒
內容字數:1864字
內容摘要:
點擊上方藍字關注我們“Meta公布新一代AI芯片MTIA,性能較前代顯著提高。Meta近日公布了其Meta訓練和推理加速器(MTIA)的下一代產品的細節。該芯片是專為優化公司AI工作負載而設計的定制芯片系列,最新版本在性能方面較其前身MTIA v1有了顯著改進,并在為Meta的廣告排名和推薦模型提供動力方面發揮著重要作用。
新的MTIA芯片是Meta在AI基礎設施方面不斷增長的投資的一部分。隨著AI模型的計算需求隨著其復雜性的增加而增加,Meta認識到開發高效且可擴展解決方案的重要性,以支持生成式AI產品、推薦系統和先進AI研究。
在技術層面上,新的MTIA芯片具有一個由8×8處理元素(PE)組成的網格,這在密集計算性能和稀疏計算性能方面提供了顯著的提升。該芯片的架構專注于實現計算、內存帶寬和內存容量的最佳平衡,以高效地服務于排名和推薦模型。
Meta還開發了一個大型機架式系統,可以容納多達72個加速器,以支持下一代硅。該系統設計為將芯片時鐘頻率提高到1.35GHz,并在90瓦特下運行,確保比第一代設計具有更高的計算、內存帶寬和內存容量的更密集功能。
自其對MTIA的投資開始以來,軟件
聯系作者
文章來源:AI范兒
作者微信:AI_Insights
作者簡介:AI領域四大媒體之一。 智能未來,始于Prompt!
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...