CPU、GPU的互連從1米飆至100米,英特爾:你相信光嗎?
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:CPU、GPU的互連從1米飆至100米,英特爾:你相信光嗎?
關(guān)鍵字:英特爾,解讀,光子,集成電路,光纖
文章來源:量子位
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
金磊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI英特爾用“光”,突破了大模型時(shí)代棘手的算力難題——
推出業(yè)界首款全集成OCI(光學(xué)計(jì)算互連)芯片。
△圖源:英特爾要知道,在AI大模型遵循Scaling Law發(fā)展的當(dāng)下,為了取得更好的效果,要么模型規(guī)模、要么數(shù)據(jù)規(guī)模,都在往更大的趨勢發(fā)展。
這就會(huì)導(dǎo)致AI大模型在算力層面上,對整個(gè)計(jì)算、存儲(chǔ),包括中間I/O通信等提出更高的要求。
而英特爾此次的突破口,正是I/O通信:
在CPU和GPU中,用光學(xué)I/O取代電氣I/O進(jìn)行數(shù)據(jù)傳輸。
有什么用?
一言蔽之,數(shù)據(jù)傳輸距離遠(yuǎn)多了,量大了,功耗低了——更適合AI大模型的“體質(zhì)”了。
△圖源:英特爾那么英特爾為什么要用到“光”?具體又是如何實(shí)現(xiàn)的?
用上了“光”,從馬車變卡車傳統(tǒng)采用電氣I/O的方式(銅線連接)固然有它的優(yōu)勢,例如支持高帶寬密度和低功耗,但致命的問題就是傳輸距離比較短(不到1米)。
這要放在一個(gè)機(jī)架里倒也是沒有問題,但AI大模型在算力上往往標(biāo)配都是服務(wù)器集群這個(gè)量級。
不僅占地面積大,還跨N多個(gè)機(jī)架,線都是需要幾十米甚至上百米的長度,功耗那是相當(dāng)?shù)母?;它?huì)吃掉所有供給機(jī)架的電源,以
原文鏈接:CPU、GPU的互連從1米飆至100米,英特爾:你相信光嗎?
聯(lián)系作者
文章來源:量子位
作者微信:
作者簡介: