IEEE：GPU很好，但不是唯一

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：IEEE：GPU很好，但不是唯一
關(guān)鍵字：英特爾,解讀,模型,性能,新一代
文章來源：量子位
內(nèi)容字?jǐn)?shù)：5621字

內(nèi)容摘要：

金磊 夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI是時(shí)候讓CPU在AI應(yīng)用上 “支棱”起來了。
這是去年大語言模型大火之時(shí)，權(quán)威期刊IEEE Spectrum在一篇文章中，開門見山給出的一個(gè)觀點(diǎn)；并且是由一群AI研究人員得出、聲量越來越大的那種。
文章還坦言道：
誠然GPU可能占據(jù)了主導(dǎo)地位，但在AI領(lǐng)域中的很多情況下，CPU卻是更合適的那一個(gè)。
例如文章引援了Hugging Face首席布道官Julien Simon體驗(yàn)的真實(shí)案例——
拿一個(gè)英特爾?至強(qiáng)?系列CPU，就能輕松駕馭Q8-Chat這個(gè)大語言模型，而且響應(yīng)速度很快。
Simon對(duì)此開誠布公地表示：
GPU雖然很好，但壟斷從來不是一件好事，可能會(huì)加劇供應(yīng)鏈問題并導(dǎo)致成本上升。
英特爾CPU在許多推理場(chǎng)景中都能很好地運(yùn)行。
而這也正與當(dāng)下大模型的發(fā)展趨勢(shì)變化相契合，即逐漸從訓(xùn)練向推理傾斜，大模型不再僅僅較真于參數(shù)規(guī)模、跑分和測(cè)評(píng)，更注重在應(yīng)用側(cè)發(fā)力。
一言蔽之，比的就是看誰能“快好省”地用起來。
不過話雖如此，但在真實(shí)的AI場(chǎng)景中，CPU真的已經(jīng)“支棱”起來了嗎？
京東云，選擇CPU如果說當(dāng)時(shí)在這個(gè)話題上，IEEE扮演了

原文鏈接：IEEE：GPU很好，但不是唯一

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢(shì)，關(guān)注科技行業(yè)新突破