AIGC動態歡迎閱讀
原標題:CPU、GPU的互連從1米飆至100米,英特爾:你相信光嗎?
關鍵字:英特爾,解讀,光子,集成電路,光纖
文章來源:量子位
內容字數:0字
內容摘要:
金磊 發自 凹非寺量子位 | 公眾號 QbitAI英特爾用“光”,突破了大模型時代棘手的算力難題——
推出業界首款全集成OCI(光學計算互連)芯片。
△圖源:英特爾要知道,在AI大模型遵循Scaling Law發展的當下,為了取得更好的效果,要么模型規模、要么數據規模,都在往更大的趨勢發展。
這就會導致AI大模型在算力層面上,對整個計算、存儲,包括中間I/O通信等提出更高的要求。
而英特爾此次的突破口,正是I/O通信:
在CPU和GPU中,用光學I/O取代電氣I/O進行數據傳輸。
有什么用?
一言蔽之,數據傳輸距離遠多了,量大了,功耗低了——更適合AI大模型的“體質”了。
△圖源:英特爾那么英特爾為什么要用到“光”?具體又是如何實現的?
用上了“光”,從馬車變卡車傳統采用電氣I/O的方式(銅線連接)固然有它的優勢,例如支持高帶寬密度和低功耗,但致命的問題就是傳輸距離比較短(不到1米)。
這要放在一個機架里倒也是沒有問題,但AI大模型在算力上往往標配都是服務器集群這個量級。
不僅占地面積大,還跨N多個機架,線都是需要幾十米甚至上百米的長度,功耗那是相當的高;它會吃掉所有供給機架的電源,以
原文鏈接:CPU、GPU的互連從1米飆至100米,英特爾:你相信光嗎?
聯系作者
文章來源:量子位
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...