AI推理時代:算力能耗瓶頸下的“密鑰”何在?

AIGC動態(tài)歡迎閱讀
原標(biāo)題:AI推理時代:算力能耗瓶頸下的“密鑰”何在?
關(guān)鍵字:數(shù)據(jù)中心,聯(lián)想集團,技術(shù),服務(wù)器,視頻
文章來源:智東西
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
液冷技術(shù)正逐漸成為數(shù)據(jù)中心解決能耗問題的關(guān)鍵。
作者|程茜
編輯|漠影
2024年,千行百業(yè)對AI推理的需求將呈現(xiàn)出爆發(fā)式增長,行業(yè)對算力的需求遠(yuǎn)遠(yuǎn)超越以往。在這樣的形勢下,如何突破能耗瓶頸,進(jìn)而獲取更充足的算力,已經(jīng)成為每個企業(yè)迫在眉睫且亟待解決的關(guān)鍵問題。
然而,當(dāng)前的現(xiàn)實情況是有效算力供給已無法滿足算力需求:一方面,從儲備到應(yīng)用的算力需求都愈發(fā)旺盛,OpenAI CEO召集全球投資者組建聯(lián)盟為大模型構(gòu)建基礎(chǔ)設(shè)施,馬斯克的無人駕駛出租車Cybercab為科技行業(yè)描繪了未來感十足的面面,還有性能愈發(fā)強大的GPT-o1等模型層出不窮。
另一方面,數(shù)據(jù)中心的算力潛能尚未被完全挖掘出來。數(shù)據(jù)中心常被認(rèn)為是“耗電怪獸”,因為服務(wù)器運行伴隨著熱量釋放,溫度一旦超過極限值,服務(wù)器性能就會顯著降低,限制數(shù)據(jù)中心算力發(fā)揮。于是各類創(chuàng)新技術(shù)涌現(xiàn),試圖讓數(shù)據(jù)中心再次突破能效瓶頸,釋放出被束縛的算力潛能。
這背后的關(guān)鍵變量就是冷卻技術(shù),液冷技術(shù)作為推手幫助數(shù)據(jù)中心一次次突破制約。就在2024年聯(lián)想集團Tech World上,聯(lián)想集團董事長兼CEO楊元慶與NVIDIA創(chuàng)始人兼CEO黃仁勛,這兩大全球科技行業(yè)
聯(lián)系作者
文章來源:智東西
作者微信:
作者簡介:

粵公網(wǎng)安備 44011502001135號