AIGC動態歡迎閱讀

原標題：IEEE：GPU很好，但不是唯一
關鍵字：英特爾,解讀,模型,性能,新一代
文章來源：量子位
內容字數：5621字

內容摘要：

金磊 夢晨 發自 凹非寺量子位 | 公眾號 QbitAI是時候讓CPU在AI應用上 “支棱”起來了。
這是去年大語言模型大火之時，權威期刊IEEE Spectrum在一篇文章中，開門見山給出的一個觀點；并且是由一群AI研究人員得出、聲量越來越大的那種。
文章還坦言道：
誠然GPU可能占據了主導地位，但在AI領域中的很多情況下，CPU卻是更合適的那一個。
例如文章引援了Hugging Face首席布道官Julien Simon體驗的真實案例——
拿一個英特爾?至強?系列CPU，就能輕松駕馭Q8-Chat這個大語言模型，而且響應速度很快。
Simon對此開誠布公地表示：
GPU雖然很好，但壟斷從來不是一件好事，可能會加劇供應鏈問題并導致成本上升。
英特爾CPU在許多推理場景中都能很好地運行。
而這也正與當下大模型的發展趨勢變化相契合，即逐漸從訓練向推理傾斜，大模型不再僅僅較真于參數規模、跑分和測評，更注重在應用側發力。
一言蔽之，比的就是看誰能“快好省”地用起來。
不過話雖如此，但在真實的AI場景中，CPU真的已經“支棱”起來了嗎？
京東云，選擇CPU如果說當時在這個話題上，IEEE扮演了

原文鏈接：IEEE：GPU很好，但不是唯一

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破