解鎖智慧計算:唐杰帶你探索AI Scale-Up的未來之路
詳解Scale-Out、Scale-Up~
原標(biāo)題:公開課預(yù)告:智算中心 AI Scale-Up 網(wǎng)絡(luò)技術(shù)|益思芯科技解決方案副總裁唐杰主講
文章來源:智猩猩GenAI
內(nèi)容字?jǐn)?shù):2191字
智猩猩智算集群公開課介紹
自10月起,智猩猩芯片與算力教研組推出了「智猩猩智算集群公開課」,旨在深入探討集群構(gòu)建、互聯(lián)網(wǎng)絡(luò)、算力調(diào)度和存儲等關(guān)鍵技術(shù)。目前,前三期課程已經(jīng)圓滿結(jié)束,吸引了廣泛關(guān)注。未來的課程將繼續(xù)為參與者帶來前沿技術(shù)的分享和討論。
課程內(nèi)容回顧
前三期的公開課分別由騰訊專有云首席架構(gòu)師方天戟、矩向科技CEO黃朝波及云脈芯聯(lián)產(chǎn)品總監(jiān)孫偉主講,主題涵蓋了智算集群技術(shù)概述、算力調(diào)度以及網(wǎng)絡(luò)互連技術(shù)的創(chuàng)新應(yīng)用。這些課程為參與者提供了深入的技術(shù)解析和實際案例,幫助大家更好地理解智算集群的核心技術(shù)。
即將到來的第4期課程
第4期公開課將于11月28日19:30開講,由益思芯科技解決方案副總裁唐杰主講,主題為《智算中心 AI Scale-Up 網(wǎng)絡(luò)技術(shù)》。隨著智算集群規(guī)模的不斷擴大,如何保證超大規(guī)模卡間的高效協(xié)同變得至關(guān)重要,這也是提升集群計算性能的關(guān)鍵所在。
Scale-Out與Scale-Up的技術(shù)解析
當(dāng)前,Scale-Out和Scale-Up是智算網(wǎng)絡(luò)技術(shù)中備受關(guān)注的兩個方向。Scale-Out通過以太網(wǎng)或Infiniband實現(xiàn)GPU之間的RDMA功能,而Scale-Up則用于GPU間的高速互連,支持跨GPU的內(nèi)存讀寫。二者的本質(zhì)區(qū)別在于側(cè)重點不同,Scale-Out主要關(guān)注網(wǎng)絡(luò)架構(gòu)的擴展性,而Scale-Up則強調(diào)內(nèi)存?zhèn)鬏數(shù)母咝浴?/p>
課程提綱與講師介紹
唐杰老師將在公開課中詳細討論以下幾個方面:1) AI智算網(wǎng)絡(luò)為何要有Scale-Up與Scale-Out之分;2) StarLink互聯(lián)技術(shù)所要解決的問題;3) StarLink的技術(shù)特點;4) 在智算中心實現(xiàn)StarLink互聯(lián)的技術(shù)路徑。唐杰擁有豐富的技術(shù)背景,曾在Xilinx負(fù)責(zé)數(shù)據(jù)中心方案,現(xiàn)負(fù)責(zé)益思芯的產(chǎn)品方案和技術(shù)開發(fā)。
報名方式
對于有興趣參加直播的朋友,可以通過添加小助手“瑞秋”進行報名。已添加的朋友可直接私信“智算集群04”進行報名。成功報名的朋友將被邀請入群進行觀看與交流。
聯(lián)系作者
文章來源:智猩猩GenAI
作者微信:
作者簡介:智猩猩旗下矩陣賬號之一,聚焦大模型開啟的通用人工智能浪潮。