為AI加速而生：英特爾的至強，現在能跑200億參數大模型了

AIGC動態歡迎閱讀

原標題：為AI加速而生：英特爾的至強，現在能跑200億參數大模型了
關鍵字：英特爾,性能,處理器,模型,負載
文章來源：機器之心
內容字數：8487字

內容摘要：

機器之心報道
編輯：澤南實用化 AI 算力又升上了一個新臺階。
在人工智能的應用領域，出現了一些讓人始料未及的趨勢：很多傳統企業開始選擇在 CPU 平臺上落地和優化 AI 應用。
例如制造領域在高度精細且較為耗時的瑕疵檢測環節，就導入了 CPU 及其他產品組合，來構建橫跨「云-邊-端」的 AI?缺陷檢測方案，代替傳統的人工瑕疵檢測方式。
再比如亞信科技就在自家 OCR-AIRPA 方案中采用了 CPU 作為硬件平臺，實現了從 FP32 到 INT8/BF16 的量化，從而在可接受的精度損失下，增加吞吐量并加速推理。將人工成本降至原來的 1/5 到 1/9，效率還提升了約 5-10 倍。
在處理 AI 制藥領域最重要的算法——AlphaFold2 這類大型模型上，CPU 同樣也「加入群聊」。從去年開始，CPU 便使 AlphaFold2 端到端的通量提升到了原來的 23.11 倍；而現如今，CPU 讓這個數值再次提升 3.02 倍。
上述這些 CPU，都有個共同的名字——至強，即英特爾? 至強? 可擴展處理器。
為什么這些 AI 任務的推理能用 CPU，而不是只考慮由 GPU 或 AI

原文鏈接：為AI加速而生：英特爾的至強，現在能跑200億參數大模型了

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺