英偉達新品“掌心AI超算”，￥1800跑8B多模態模型，算力暴增70%價格腰斬

黃仁勛皮衣了

原標題：英偉達新品“掌心AI超算”，￥1800跑8B多模態模型，算力暴增70%價格腰斬
文章來源：量子位
內容字數：1711字

英偉達發布“掌心AI超算”：Jetson Orin Nano開發套件

英偉達近日發布了新款Jetson Orin Nano開發套件，這款被譽為“英偉達版樹莓派”的設備在性能和價格上都帶來了巨大驚喜，引發了廣泛關注。

1. 性能大幅提升，價格腰斬

   新版Jetson Orin Nano開發套件的INT8算力從40 TOPS提升至67 TOPS，內存帶寬增加50%達到102GB/s，功耗維持在25瓦。最令人驚喜的是，價格卻降低了50%，從499美元降至249美元（約人民幣1800元）。

2. 強大的AI處理能力

   67 TOPS的算力意味著它能夠運行主流的7B、8B大模型的量化版本，例如阿里Qwen和Llama等。這使其能夠勝任各種AI任務，包括運行視覺語言模型和ViT模型。

3. 豐富的應用場景

   英偉達將其稱為“最實惠的生成式AI超級計算機”，并指出它適用于各種應用場景，例如創建基于RAG的機器人、視覺AI Agent以及部署基于AI的機器人。其支持最高4個攝像頭，并提供比前代產品更高的分辨率和幀率。

4. 強大的硬件配置和軟件支持

   Jetson Orin Nano采用6核Arm CPU和NVIDIA Ampere架構GPU，GPU配備1024個CUDA核心和32個張量核心。它支持多個并發AI應用管道和高性能推理，并兼容NVIDIA ISAAC、NVIDIA Metropolis和NVIDIA Holoscan等一系列英偉達AI軟件，以及Omniverse Replicator和NVIDIA TAO工具包，方便開發者進行模型訓練和部署。

5. 面向機器人領域的全新處理器

   英偉達CEO黃仁勛將Jetson Orin Nano系列定義為一種全新的“機器人處理器”，并表示它已經支持各種類型的機器人。

6. 舊版用戶也能受益

   英偉達還為舊版開發套件用戶提供了軟件更新，以提升其生成式AI性能。

總而言之，Jetson Orin Nano開發套件以其強大的性能、親民的價格以及豐富的軟件生態，為邊緣AI應用帶來了新的可能性，為開發者和研究人員提供了強大的工具，也使得生成式AI技術更加普及。

聯系作者

文章來源：量子位
作者微信：
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破