AI成為「耗電大戶」，除了新能源，還需要芯片創(chuàng)新

AIGC動態(tài)歡迎閱讀

原標題：AI成為「耗電大戶」，除了新能源，還需要芯片創(chuàng)新
關(guān)鍵字：報告,數(shù)據(jù)中心,危機,電網(wǎng),人工智能
文章來源：機器之心
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

選自Communications of the ACM
作者：R. Colin Johnson
機器之心編譯
機器之心編輯部人工智能的普及造成了一場能源危機，但并不是無法解決。人工智能（AI）的式增長促使科技巨頭（包括 Google、Meta、亞馬遜和微軟等）開始構(gòu)建超大規(guī)模數(shù)據(jù)中心，這些數(shù)據(jù)中心需要的電力非常多 —— 是以千兆瓦計算而不是兆瓦。有分析師表示，這些巨型數(shù)據(jù)中心使用現(xiàn)有的半導體技術(shù)來挑戰(zhàn)美國老化的電網(wǎng)基礎(chǔ)設(shè)施，以滿足其能源消耗需求。
例如，高盛估計僅對 ChatGPT 的一次查詢所消耗的數(shù)據(jù)中心電能就比語音識別等傳統(tǒng)人工智能功能多 10 倍，因此我們需要更強大的數(shù)據(jù)中心來支持這種需求。如今，生成式 AI（GenAI）處于爆發(fā)階段，其參數(shù)量基本以億計算。但是，在運行時，例如基于 Transformer 的這類模型無法像單詞識別那樣被壓縮成小巧、快速的推理引擎。原因是它們不會返回簡單的單詞來響應(yīng)用戶輸入，而是將用戶查詢與其龐大的神經(jīng)網(wǎng)絡(luò)中的數(shù)萬億個示例進行比較。這些響應(yīng)需要從完整的段落到整篇白皮書、甚至是關(guān)于查詢主題的整本書來查找。
市場調(diào)研公司 Tirias Resea

原文鏈接：AI成為「耗電大戶」，除了新能源，還需要芯片創(chuàng)新