AI 推理競賽正在升溫

AIGC動態(tài)歡迎閱讀

原標題：AI 推理競賽正在升溫
關鍵字：芯片,模型,性能,類別,任務
文章來源：AI前線
內容字數(shù)：0字

內容摘要：

作者丨 Dina Genkina
譯者丨明知山
策劃丨褚杏娟
雖然英偉達的 GPU 在 AI 訓練領域的主導地位仍然難以撼動，但似乎有跡象表明，在 AI 推理方面，競爭對手正在迎頭趕上這家科技巨頭，尤其是在能效方面。然而，英偉達新推出的 Blackwell 芯片的卓越性能可能很難被超越。
最近，ML Commons 發(fā)布了最新的 AI 推理競賽 ML Perf Inference v4.1 的成績單。這一輪競賽包括使用 AMD Instinct 加速器的團隊、最新的谷歌 Trillium 加速器、來自多倫多初創(chuàng)公司 UntetherAI 的芯片以及英偉達最新發(fā)布的 Blackwell 芯片的首次試水。另外兩家公司，Cerebras 和 FuriosaAI，也發(fā)布了最新的推理芯片，雖然沒有提交給 MLPerf 進行評測。
就像奧林匹克會一樣，MLPerf 也有許多類別和子類別。提交數(shù)量最多的是“封閉數(shù)據(jù)中心”類別。封閉類別（相對于開放類別）要求提交者在不進行重大軟件修改的情況下按照原樣運行推理任務。數(shù)據(jù)中心類別評估的是批量處理查詢的能力，而邊緣類別則側重于降低延遲。
每個類別有 9

原文鏈接：AI 推理競賽正在升溫