AIGC動態歡迎閱讀
原標題:英特爾第五代至強可擴展處理器發布,在CPU上跑AI更香了
關鍵字:英特爾,處理器,性能,模型,能力
文章來源:量子位
內容字數:7831字
內容摘要:
金磊 豐色 發自 凹非寺量子位 | 公眾號 QbitAI千呼萬喚始出來,第五代英特爾?至強?可擴展處理器,它來了!
若是用一句話來概括它的特點,那就是——AI味道越發得濃厚。
以訓練、推理大模型為例:
與相比,訓練性能提升多達29%,推理性能提升高達42%;
與第三代相比,AI訓練和推理性能提升高達14倍。
什么概念?
現在若是將不超過200億參數的模型“投喂”給第五代至強?可擴展處理器,那么時延將低到不超過100毫秒!
也就是說,現在在CPU上跑大模型,著實是更香了。
而這也僅是英特爾在此次發布中的一隅,還包括打破自家“祖制”、被稱為四十年來最重大架構轉變的酷睿?Ultra。
此舉亦是將AI的power注入到消費級PC中,用于加速本地的AI推理。
除此之外,具體到英特爾長期在各行各業扎根的AI實戰應用,包括數據庫、科學計算、生成式AI、機器學習、云服務等等。
它們也隨著第五代至強?可擴展處理器的到來,在其內置的如英特爾? AMX、英特爾? SGX/TDX等其他內置加速器的幫助下,得到了更大的降本增效。
總而言之,縱觀英特爾此次整場的發布,AI可謂貫穿始終。
最新英特爾處理器,A
原文鏈接:英特爾第五代至強可擴展處理器發布,在CPU上跑AI更香了
聯系作者
文章來源:量子位
作者微信:QbitAI
作者簡介:追蹤人工智能新趨勢,關注科技行業新突破
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章

暫無評論...