談談Apple Intelligence邊緣推理和大模型隱私的問題

AIGC動態歡迎閱讀

原標題：談談Apple Intelligence邊緣推理和大模型隱私的問題
關鍵字：模型,用戶,框架,神經網絡,蘋果
文章來源：算法邦
內容字數：0字

內容摘要：

直播預告 | 7月2日10點，「智猩猩AI新青年講座」第242講正式開講，香港大學計算機系HKU-MMLAB二年級博士生梁志烜將直播講解《利用技能學習的擴散策略實現層次化機器人軌跡生成》，歡迎掃名~對于Apple WDCC的更新雖然不是很驚艷, 也沒有什么新奇的故事. 但是至少AI的故事讓還在服役的iPhone7 ~ iPhone14都有了換機的沖動, 所以市值上漲也不足為奇了. 當然我們關注的更多的是背后的技術, 例如邊緣推理是如何實現的, 用戶隱私怎么保護的. 其實這個問題非常關鍵, 你看Musk對當前的邊緣推理和Private Cloud Compute并沒有反對, 只是反對OAI在OS Level調用API. 另一個層面來看,本質上Apple已經構建好了一個LLM OS的雛形.那么我們就來詳細探索一下Apple邊緣推理的實現,然后我在五六年前也因為GDPR等合規需求,當時在Cisco也實現了一套邊緣推理框架, 因此后面會給一點我個人的經驗和建議, 特別是云端推理如何使用公有云的問題以及端側模型個性化的問題, 最后留了一個彩蛋~嘻嘻~01Apple 邊緣推理框架1.1 端側模

原文鏈接：談談Apple Intelligence邊緣推理和大模型隱私的問題

聯系作者

文章來源：算法邦
作者微信：allplusai
作者簡介：智猩猩矩陣賬號之一，聚焦生成式AI，重點關注模型與應用。