詳解Scale-Out、Scale-Up~

原標(biāo)題：公開課預(yù)告：智算中心 AI Scale-Up 網(wǎng)絡(luò)技術(shù)｜益思芯科技解決方案副總裁唐杰主講
文章來源：智猩猩GenAI
內(nèi)容字?jǐn)?shù)：2191字

智猩猩智算集群公開課介紹

自10月起，智猩猩芯片與算力教研組推出了「智猩猩智算集群公開課」，旨在深入探討集群構(gòu)建、互聯(lián)網(wǎng)絡(luò)、算力調(diào)度和存儲等關(guān)鍵技術(shù)。目前，前三期課程已經(jīng)圓滿結(jié)束，吸引了廣泛關(guān)注。未來的課程將繼續(xù)為參與者帶來前沿技術(shù)的分享和討論。

課程內(nèi)容回顧

前三期的公開課分別由騰訊專有云首席架構(gòu)師方天戟、矩向科技CEO黃朝波及云脈芯聯(lián)產(chǎn)品總監(jiān)孫偉主講，主題涵蓋了智算集群技術(shù)概述、算力調(diào)度以及網(wǎng)絡(luò)互連技術(shù)的創(chuàng)新應(yīng)用。這些課程為參與者提供了深入的技術(shù)解析和實(shí)際案例，幫助大家更好地理解智算集群的核心技術(shù)。

即將到來的第4期課程

第4期公開課將于11月28日19:30開講，由益思芯科技解決方案副總裁唐杰主講，主題為《智算中心 AI Scale-Up 網(wǎng)絡(luò)技術(shù)》。隨著智算集群規(guī)模的不斷擴(kuò)大，如何保證超大規(guī)模卡間的高效協(xié)同變得至關(guān)重要，這也是提升集群計(jì)算性能的關(guān)鍵所在。

Scale-Out與Scale-Up的技術(shù)解析

當(dāng)前，Scale-Out和Scale-Up是智算網(wǎng)絡(luò)技術(shù)中備受關(guān)注的兩個方向。Scale-Out通過以太網(wǎng)或Infiniband實(shí)現(xiàn)GPU之間的RDMA功能，而Scale-Up則用于GPU間的高速互連，支持跨GPU的內(nèi)存讀寫。二者的本質(zhì)區(qū)別在于側(cè)重點(diǎn)不同，Scale-Out主要關(guān)注網(wǎng)絡(luò)架構(gòu)的擴(kuò)展性，而Scale-Up則強(qiáng)調(diào)內(nèi)存?zhèn)鬏數(shù)母咝浴?/p>

課程提綱與講師介紹

唐杰老師將在公開課中詳細(xì)討論以下幾個方面：1) AI智算網(wǎng)絡(luò)為何要有Scale-Up與Scale-Out之分；2) StarLink互聯(lián)技術(shù)所要解決的問題；3) StarLink的技術(shù)特點(diǎn)；4) 在智算中心實(shí)現(xiàn)StarLink互聯(lián)的技術(shù)路徑。唐杰擁有豐富的技術(shù)背景，曾在Xilinx負(fù)責(zé)數(shù)據(jù)中心方案，現(xiàn)負(fù)責(zé)益思芯的產(chǎn)品方案和技術(shù)開發(fā)。

報(bào)名方式

對于有興趣參加直播的朋友，可以通過添加小助手“瑞秋”進(jìn)行報(bào)名。已添加的朋友可直接私信“智算集群04”進(jìn)行報(bào)名。成功報(bào)名的朋友將被邀請入群進(jìn)行觀看與交流。

聯(lián)系作者

文章來源：智猩猩GenAI
作者微信：
作者簡介：智猩猩旗下矩陣賬號之一，聚焦大模型開啟的通用人工智能浪潮。