黃仁勛皮衣了
原標題:英偉達新品“掌心AI超算”,¥1800跑8B多模態模型,算力暴增70%價格腰斬
文章來源:量子位
內容字數:1711字
英偉達推出新款Jetson Orin Nano開發版
在最新的發布會上,英偉達首席執行官黃仁勛展示了新版Jetson Orin Nano開發版套件,標志著該產品在性能和價格上的重大升級。這款被稱為“掌心AI超算”的設備,不僅性能提升了70%,還將價格降低了50%。
性能與規格
新版Jetson Orin Nano的算力從40 TOPS提升至67 TOPS(INT8),內存帶寬增加了50%,達到了102GB/s,功耗保持在僅25瓦。價格從499美元降至249美元(約人民幣1800元)。這一提升使其在運行主流的7B和8B大模型(如阿里Qwen和Llama等量化版模型)時表現出色,尤其是在AI應用領域。
多攝像頭支持與應用場景
新設備最高支持4個攝像頭,能夠運行8B的視覺語言模型和ViT模型,適用于創建基于RAG的機器人、視覺AI代理及AI機器人等多種應用。開發套件包括一個Jetson Orin Nano 8GB系統級模塊(SoM)和參考載板,適合邊緣AI應用的原型設計。
強大的硬件配置
Jetson Orin Nano配備6核Arm CPU和NVIDIA Ampere架構GPU,具備1024個CUDA核心和32個張量核心。這一配置支持多個并發AI應用管道與高性能推理,提供更高的分辨率與幀率。
軟件生態與支持
該設備支持多種英偉達AI軟件,包括NVIDIA ISAAC(用于機器人)、NVIDIA Metropolis(視覺AI)和NVIDIA Holoscan(傳感器處理)。用戶還可以利用NVIDIA Omniverse Replicator生成合成數據,并通過NVIDIA TAO工具包微調預訓練模型,顯著縮短開發時間。
總結與前景
黃仁勛表示,這款Jetson Orin Nano代表了一種全新的機器人處理器,盡管在推出初期不被理解,但如今已支持各種類型的機器人。新軟件更新也將提升舊版開發套件用戶的生成式AI性能,進一步鞏固了英偉達在AI領域的領導地位。
總之,Jetson Orin Nano以其卓越的性能和親民的價格,為開發者提供了一個理想的生成式AI解決方案,推動了邊緣AI應用的發展。
聯系作者
文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢,關注科技行業新突破