AIGC動態(tài)歡迎閱讀

原標題：Apple Intelligence存重大安全缺陷，幾行代碼即可攻破！Karpathy發(fā)文提醒
關(guān)鍵字：提示,指令,模型,政策,優(yōu)先級
文章來源：新智元
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

新智元報道編輯：耳朵 喬楊
【新智元導讀】Apple Intelligence上線在即，一小哥幾行代碼曝出Apple Intelligence安全缺陷。在2024年全球開發(fā)者大會 (WWDC) 上，Apple發(fā)布了將搭載在iOS 18.1中的AI功能Apple Intelligence。
眼看著10月即將正式上線了，有「民間高手」在MacOS 15.1提供的Beta測試版Apple Intelligence中發(fā)現(xiàn)重大缺陷。
開發(fā)人員Evan Zhou使用提示注入成功操縱了Apple Intelligence，繞過了預期指令讓AI能對任意提示做出響應。
事實證明，它與其他基于大語言模型的AI系統(tǒng)一樣，容易受到「提示詞注入攻擊」。開發(fā)人員Evan Zhou 在YouTube視頻中演示了此漏洞。
什么是提示詞注入攻擊？有一個組織叫OWASP，也就是開放全球應用安全項目，他們分析了大語言模型可能面臨的主要漏洞。猜猜他們排名第一的是什么？沒錯，就是提示詞注入。
提示詞注入攻擊 (Prompt Injection Attack) 是一種新型的攻擊方式，具有有不同的形式，包括提示詞注入、提示詞泄露

原文鏈接：Apple Intelligence存重大安全缺陷，幾行代碼即可攻破！Karpathy發(fā)文提醒

聯(lián)系作者

文章來源：新智元
作者微信：
作者簡介：