Project DIGITS – NVIDIA 推出的個(gè)人 AI 超級計(jì)算機(jī)

Project DIGITS是什么

Project DIGITS 是由 NVIDIA 推出的個(gè)人 AI 超級計(jì)算機(jī)，旨在為 AI 研究者、數(shù)據(jù)科學(xué)家和學(xué)生提供卓越的計(jì)算能力。該項(xiàng)目基于 NVIDIA Grace Blackwell 架構(gòu)，搭載 GB10 Superchip，能夠?qū)崿F(xiàn)高達(dá) 1千萬億次的 AI 性能，支持運(yùn)行包含高達(dá) 2000 億參數(shù)的大型語言模型。Project DIGITS 配備了 128GB 的統(tǒng)一內(nèi)存和多達(dá) 4TB 的 NVMe 存儲，使用戶能在本地開發(fā)和執(zhí)行 AI 模型，并支持無縫部署到云端或數(shù)據(jù)中心。它還兼容多種 NVIDIA AI 軟件工具，助力開發(fā)者在模型原型設(shè)計(jì)、微調(diào)和測試中推動 AI 創(chuàng)新。Project DIGITS 預(yù)計(jì)將在5月份正式上市，起價(jià)為 3,000 美元。

Project DIGITS的主要功能

• 卓越的 AI 計(jì)算能力：裝備 GB10 Superchip，提供高達(dá) 1千萬億次的 AI 性能，并能夠支持運(yùn)行高達(dá) 2000 億參數(shù)的復(fù)雜語言模型。
• 本地開發(fā)與部署：用戶可以在本地系統(tǒng)上開發(fā)和執(zhí)行 AI 模型，支持將模型無縫遷移到云端或數(shù)據(jù)中心基礎(chǔ)設(shè)施。
• 豐富的軟件生態(tài)：包括多種 NVIDIA AI 軟件庫，提供軟件開發(fā)工具包、編排工具、框架和模型，支持各種 AI 應(yīng)用的開發(fā)與測試。
• 高效的內(nèi)存與存儲方案：配備 128GB 的統(tǒng)一內(nèi)存和多達(dá) 4TB 的 NVMe 存儲，確保數(shù)據(jù)處理和模型執(zhí)行的高效性。
• 靈活的網(wǎng)絡(luò)連接：通過 NVIDIA ConnectX? 網(wǎng)絡(luò)，多個(gè) Project DIGITS 可以連接，進(jìn)一步增強(qiáng)計(jì)算能力，滿足更大規(guī)模模型的需求。

Project DIGITS的技術(shù)配置

• GB10 Superchip芯片：
  • 架構(gòu)：基于 NVIDIA Grace Blackwell 架構(gòu)，集成高性能的 NVIDIA Blackwell GPU 和 NVIDIA Grace? CPU。
  • 性能：提供高達(dá) 1千萬億次的 AI 計(jì)算能力，支持 FP4 精度的運(yùn)算。
  • 連接性：采用 NVLink?-C2C 芯片間互連技術(shù)，實(shí)現(xiàn) GPU 和 CPU 之間的高效數(shù)據(jù)傳輸。
• 功耗優(yōu)化：通過先進(jìn)的設(shè)計(jì)和制造工藝，兼顧高性能與低功耗。
• 統(tǒng)一內(nèi)存架構(gòu)：集成 128GB 的統(tǒng)一內(nèi)存，支持高效數(shù)據(jù)訪問和共享，減少延遲，提高計(jì)算效率。
• 存儲與擴(kuò)展性：
  • 提供高達(dá) 4TB 的 NVMe 存儲，支持快速數(shù)據(jù)讀寫。
  • 利用 NVIDIA ConnectX? 網(wǎng)絡(luò)，實(shí)現(xiàn)多設(shè)備的協(xié)同運(yùn)作，支持更大規(guī)模的計(jì)算任務(wù)。

Project DIGITS的官網(wǎng)地址

• 項(xiàng)目官網(wǎng)：https://www.nvidia.com/en-eu/project-digits/

Project DIGITS的應(yīng)用場景

• AI 研究與開發(fā)：為研究人員提供強(qiáng)大的計(jì)算能力，支持深度學(xué)習(xí)模型的開發(fā)與實(shí)驗(yàn)，探索前沿 AI 算法與應(yīng)用。
• 數(shù)據(jù)科學(xué)與分析：數(shù)據(jù)科學(xué)家可利用其進(jìn)行大規(guī)模數(shù)據(jù)分析和機(jī)器學(xué)習(xí)模型訓(xùn)練，加速數(shù)據(jù)處理與模型優(yōu)化。
• 教育與教學(xué)：在高等院校和研究機(jī)構(gòu)中作為教學(xué)工具，幫助學(xué)生掌握 AI 和機(jī)器學(xué)習(xí)技術(shù)，并進(jìn)行實(shí)踐項(xiàng)目研究。
• 企業(yè)創(chuàng)新與開發(fā)：企業(yè)可借助其進(jìn)行產(chǎn)品開發(fā)與創(chuàng)新，例如智能推薦系統(tǒng)和自然語言處理應(yīng)用。
• 醫(yī)療健康：在醫(yī)療領(lǐng)域應(yīng)用于醫(yī)學(xué)影像分析、疾病預(yù)測及診斷模型的開發(fā)，提高醫(yī)療診斷的準(zhǔn)確性與效率。