為什么說GPU再火，AI平臺也少不了強力的CPU

AIGC動態2年前 (2024)發布量子位

AIGC動態歡迎閱讀

原標題：為什么說GPU再火，AI平臺也少不了強力的CPU
關鍵字：騰訊,英特爾,模型,數據,服務器
文章來源：量子位
內容字數：9882字

內容摘要：

金磊夢晨發自凹非寺量子位 | 公眾號 QbitAIAIGC的這把火，燃起來的可不只是百模大戰的熱度和雨后春筍般的各式AI應用。
更是由于算力與通信需求的爆發式增長，使得底層的專用加速芯片、以及配備這些芯片的AI加速服務器再次被拉到了大眾的聚光燈下。
據統計，2023年全球范圍內的AI服務器市場規模已經達到了211億美元，并且IDC還發布預測說：
預計2025年達317.9億美元，2023-2025年CAGR為22.7%。
AIGC大模型的訓練和推理需要大量的高性能算力支持，對AI服務器需求還將提升。
而且AI加速服務器不同于普通服務器，在架構上一般采用異構的方式，且GPU的數量更是能配多少就配多少，這也就是造成目前GPU千金難求的因素之一。
但你知道嗎？即使在大模型時代GPU或各式AI加速芯片的光芒變得更加耀眼，但對于AI基礎設施來說，CPU依然是必不可少的存在——至少一臺高端的AI加速服務器中每8個GPU就需得搭配2個CPU。
不僅如此，由于AI加速服務器異構的特點，市場上除了CPU+GPU的組合方式之外，還有其它多種多樣的架構，例如：
CPU＋FPGA
CPU＋TPU
CPU

原文鏈接：為什么說GPU再火，AI平臺也少不了強力的CPU