2000億參數大模型直接在辦公桌上跑
原標題:老黃重磅發布5090,定價15000!22000元的世界最小AI超級計算機也來了
文章來源:量子位
內容字數:6246字
NVIDIA CES 2024 重磅發布:RTX 50系列GPU、全球最小個人AI超級計算機Project DIGITS等
1. **開頭:** 在剛剛結束的CES 2024上,NVIDIA CEO黃仁勛以一身全新皮衣亮相,帶來了一系列令人矚目的新品發布,涵蓋GPU、AI超級計算機以及AI模型服務等多個領域,再次展現了其在AI領域的領導地位。
1. RTX 50系列GPU強勢登場
NVIDIA發布了基于Blackwell架構的最新GPU——RTX 50系列,包括RTX 5090、RTX 5080、RTX 5070 Ti和RTX 5070。該系列GPU擁有高達920億個晶體管,性能大幅提升,在AI運算、光線追蹤和著色器性能方面均有顯著進步。價格方面,RTX 5090售價1999美元,RTX 5080售價999美元,RTX 5070 Ti售價749美元,RTX 5070售價549美元。
2. NVLink 72互聯技術再升級
Blackwell架構的關鍵互聯技術NVLink 72也同步發布,其72個Blackwell GPU具備1.4 ExaFLOPS TE FP4計算能力,晶體管數量達到驚人的130萬億個。該技術擁有極高的帶寬和連接能力,為大型AI計算提供了強有力的支持。
3. 全球最小個人AI超級計算機:Project DIGITS
NVIDIA發布了全球最小個人AI超級計算機——Project DIGITS,它能夠在桌面系統上運行2000億參數的大模型,兩臺聯合使用則可運行4050億參數的大模型。Project DIGITS搭載了全新的Grace Blackwell超級芯片(GB10),擁有128GB統一相干內存和高達4TB的NVMe存儲,并將于今年5月份開始提供,起售價為3000美元。其關鍵在于GB10芯片,該芯片由NVIDIA和聯發科共同研發,結合了NVIDIA Blackwell GPU和高性能NVIDIA Grace CPU,在FP4精度下可提供高達1千萬億次浮點運算的AI性能。
4. 開源商用世界基礎模型:Cosmos
NVIDIA開源了允許商用的世界基礎模型Cosmos。Cosmos包含用于生成物理世界合成數據的模型,以及用于加速視頻處理的管道。該模型在2000萬小時的駕駛和機器人視頻數據上訓練而成,主要用于加速自動駕駛和下一代機器人訓練研發。Cosmos提供Nano、Super和Ultra三種不同規模的模型,以滿足不同用戶的需求。目前,包括豐田、Uber、小鵬、比亞迪等多家公司已成為Cosmos的首批試用者。
5. 全新AI模型服務:NIM微服務和AI藍圖
NVIDIA發布了兩個新的AI模型服務:NIM微服務和AI藍圖。NIM微服務允許用戶輕松訪問和部署最新的生成式AI模型,并已推出Llama Nemotron和Cosmos Nemotron兩個大模型,分別專注于大型語言模型和視覺語言模型。AI藍圖則基于NIM微服務構建,提供預配置參考工作流程,例如PDF轉播客、3D引導生成式AI等。
6. **結尾:** NVIDIA在本次CES上推出的系列產品,展現了其在GPU、AI超級計算機和AI模型服務領域的全面實力,也預示著AI技術將進一步融入到各個行業和應用中,為各行各業帶來變革性的影響。 NVIDIA股價在發布會之前也創下歷史新高,進一步印證了市場對其技術的認可。
聯系作者
文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢,關注科技行業新突破