GPT-4合成！「角色調節」讓大模型輕松越獄，成功率暴漲40%，成本不到14元，馬庫斯轉贊

AIGC動態歡迎閱讀

原標題：GPT-4合成！「角色調節」讓大模型輕松越獄，成功率暴漲40%，成本不到14元，馬庫斯轉贊

關鍵字：角色,模型,政策,指令,研究人員

文章來源：新智元

內容字數：4989字

內容摘要：新智元報道編輯：桃子【新智元導讀】讓大模型洗錢、制造、合成？GPT-4、 Claude 2紛紛淪陷了。讓大模型成功越獄，還是有機可乘。最近，研究人員研制了一種全新的自動化越獄的方法——「角色調節」（persona modulation）。它使用越獄模型作為助手，為特定的有害行為創建新的越獄。論文地址：https://arxiv.org/pdf/2311.03348.pdf值得一提的是，這個新方法只需要不到 2 美元，10分鐘即可進行15次越獄攻擊。結果發現，GPT-4自動攻擊的有害完成率為42.5%， Claude 2和Vicuna，有害完成率分別為61.0%和35.9%。看不夠熱鬧的馬庫斯也特意轉發了這篇論文，并表示：網絡欺凌、勒索、宗教不容忍、宣揚仇視、戀童癖，還是只想要制造或的說明書？ChatGPT都能幫你解決。Claude和Llama是如此。LLM自動越獄…

原文鏈接：點此閱讀原文：GPT-4合成！「角色調節」讓大模型輕松越獄，成功率暴漲40%，成本不到14元，馬庫斯轉贊

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。