Meta發(fā)布新一代AI芯片MTIA,性能顯著提升

AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:Meta發(fā)布新一代AI芯片MTIA,性能顯著提升
關(guān)鍵字:芯片,性能,模型,方面,堆棧
文章來(lái)源:AI范兒
內(nèi)容字?jǐn)?shù):1864字
內(nèi)容摘要:
點(diǎn)擊上方藍(lán)字關(guān)注我們“Meta公布新一代AI芯片MTIA,性能較前代顯著提高。Meta近日公布了其Meta訓(xùn)練和推理加速器(MTIA)的下一代產(chǎn)品的細(xì)節(jié)。該芯片是專為優(yōu)化公司AI工作負(fù)載而設(shè)計(jì)的定制芯片系列,最新版本在性能方面較其前身MTIA v1有了顯著改進(jìn),并在為Meta的廣告排名和推薦模型提供動(dòng)力方面發(fā)揮著重要作用。
新的MTIA芯片是Meta在AI基礎(chǔ)設(shè)施方面不斷增長(zhǎng)的投資的一部分。隨著AI模型的計(jì)算需求隨著其復(fù)雜性的增加而增加,Meta認(rèn)識(shí)到開(kāi)發(fā)高效且可擴(kuò)展解決方案的重要性,以支持生成式AI產(chǎn)品、推薦系統(tǒng)和先進(jìn)AI研究。
在技術(shù)層面上,新的MTIA芯片具有一個(gè)由8×8處理元素(PE)組成的網(wǎng)格,這在密集計(jì)算性能和稀疏計(jì)算性能方面提供了顯著的提升。該芯片的架構(gòu)專注于實(shí)現(xiàn)計(jì)算、內(nèi)存帶寬和內(nèi)存容量的最佳平衡,以高效地服務(wù)于排名和推薦模型。
Meta還開(kāi)發(fā)了一個(gè)大型機(jī)架式系統(tǒng),可以容納多達(dá)72個(gè)加速器,以支持下一代硅。該系統(tǒng)設(shè)計(jì)為將芯片時(shí)鐘頻率提高到1.35GHz,并在90瓦特下運(yùn)行,確保比第一代設(shè)計(jì)具有更高的計(jì)算、內(nèi)存帶寬和內(nèi)存容量的更密集功能。
自其對(duì)MTIA的投資開(kāi)始以來(lái),軟件
原文鏈接:Meta發(fā)布新一代AI芯片MTIA,性能顯著提升
聯(lián)系作者
文章來(lái)源:AI范兒
作者微信:AI_Insights
作者簡(jiǎn)介:AI領(lǐng)域四大媒體之一。 智能未來(lái),始于Prompt!

粵公網(wǎng)安備 44011502001135號(hào)