蘋果突破內存限制，將大型語言模型嵌入iPhone

AIGC動態歡迎閱讀

原標題：蘋果突破內存限制，將大型語言模型嵌入iPhone
關鍵字：蘋果,模型,內存,閃存,技術
文章來源：AI范兒
內容字數：3166字

內容摘要：

點擊上方藍字關注我們“蘋果研究人員成功運用創新的閃存技術，克服了iPhone內存限制，實現了大型語言模型在有限內存下的高效推理。通過窗口化和行列捆綁等關鍵技術，他們使AI模型能在iPhone等設備上以更高速度運行，為未來Siri更新、實時語言翻譯以及復雜AI功能的應用打開新可能。這一技術突破將提升用戶體驗，預計在2024年底左右的iOS 18中亮相。蘋果的人工智能研究團隊近期宣布了一項引人注目的技術突破，該突破將有望使大型語言模型（LLMs）在內存受限的設備上實現更為高效的部署，其中包括iPhone等內存有限的蘋果設備。這一消息揭示了蘋果在人工智能領域的積極探索，為未來的產品創新和用戶體驗提供了潛在的巨大推動力。
蘋果的研究人員在一篇名為《閃存中的LLM：有限內存下高效的大型語言模型推理》的研究論文中詳細介紹了這一創新性技術。論文指出，基于大型語言模型的機器人，如ChatGPT和Claude，通常對內存和數據的需求較高，這在內存容量有限的設備上提出了顯著挑戰。為應對這一挑戰，蘋果研究人員采用了一種巧妙的方法，即通過創新的閃存利用技術將AI模型的數據成功存儲在閃存中。
這項技術的核心

原文鏈接：蘋果突破內存限制，將大型語言模型嵌入iPhone

聯系作者

文章來源：AI范兒
作者微信：AI_Insights
作者簡介：智能未來，始于Prompt！