蘋果創新大模型壓縮技術，大模型有機會塞進手機里了

AIGC動態歡迎閱讀

原標題：蘋果創新大模型壓縮技術，大模型有機會塞進手機里了

關鍵字：權重,張量,內存,研究者,設備

文章來源：機器之心

內容字數：6021字

內容摘要：機器之心報道編輯：趙陽大模型的內容安全問題使得人們希望可以在終端設備上完成模型訓練及運行。對于手機來說，大模型的權重數據顯得尤為龐大。大型語言模型（LLM），尤其是生成式預訓練 Transformer（GPT）模型在許多復雜的語言任務上表現出了出色的性能。這一突破使人們希望在移動設備上本地運行這些 LLM，以保護用戶隱私。可是，即使是小型 LLM 也太大，無法在這些設備上運行。舉例來說，小型 LL…

原文鏈接：點此閱讀原文：蘋果創新大模型壓縮技術，大模型有機會塞進手機里了

聯系作者

文章來源：機器之心

作者微信：almosthuman2014

作者簡介：專業的人工智能媒體和產業服務平臺