讓生成式AI觸手可及 ——AirBox 正式開放預定！預定搶三重好禮！邀請你在線體驗Llama3！

AIGC動態歡迎閱讀

原標題：讓生成式AI觸手可及 ——AirBox 正式開放預定！預定搶三重好禮！邀請你在線體驗Llama3！
關鍵字：模型,知識產權,能力,數據,性能
文章來源：JioNLP
內容字數：10530字

內容摘要：

瑞莎計算機(Radxa)推出全球首款SG2300X微型 AI 盒子，現已在京東及海外平臺正式開放預定，僅售￥2699！預定用戶送電源、麥克風和無線模組！
文末附【在線體驗Llama3 on AirBox】、【預定鏈接】小型化、私有化， 大廠競逐端側生成式AI2024年，端側運行生成式AI，幾乎成了Intel、AMD、高通等廠商下一代芯片的標配。
在CES上大火的Rabbit R1，可以利用ChatGPT來操作很多手機端的app，完全自然語言控制，演示視頻讓很多自媒體鼓吹可以拋棄手機了，但是有拿到產品的網友實測后發現，單任務響應時間超過20s，用戶體驗不友好。在網絡訪問不暢通的情況下，如何才能獲得實時、低延遲的響應？答案是，把生成式AI服務放在端側，而不是在云、數據中心和端側節點之間頻繁傳輸。基于SG2300x打造的端側生成式AI盒子Airbox，Llama-7B的速度可以達到12 tokens/s，StableDiffusion 1s 出圖，讓生成式AI觸手可及。SG2300X：令人驚喜的端側生成式AI處理能力
產品規格
SG2300X
處理器
ARMA538核2.3GHz
內存
LP

原文鏈接：讓生成式AI觸手可及 ——AirBox 正式開放預定！預定搶三重好禮！邀請你在線體驗Llama3！

聯系作者

文章來源：JioNLP
作者微信：jionlp
作者簡介：AI、自然語言處理、計算機視覺、數據挖掘、數據分析、C、C++。當然，也聊關于程序員的方方面面。