3秒讓AI變乖，生成風險圖片減少30%！復旦新研究拿下擴散模型概念移除新SOTA｜ECCV 2024

AIGC動態歡迎閱讀

原標題：3秒讓AI變乖，生成風險圖片減少30%！復旦新研究拿下擴散模型概念移除新SOTA｜ECCV 2024
關鍵字：概念,模型,方法,內容,編輯
文章來源：量子位
內容字數：0字

內容摘要：

RECE團隊 投稿量子位 | 公眾號 QbitAI讓AI繪畫模型變“乖”，現在僅需3秒調整模型參數。
效果be like：生成的風險圖片比以往最佳方法減少30%！
像這樣，在充分移除梵高繪畫風格的同時，對非目標藝術風格幾乎沒有影響。
在移除露內容上，效果達到“只穿衣服，不改結構”。
這就是復旦大學提出的概念移除新方法——RECE。
目前，基于擴散模型的AI生圖有時真假難辨，常被惡意用戶用來生成版權和包含風險內容（如虛假新聞、暴力內容）的圖像。
SD中使用的的安全措施是使用安全檢查器，對違規的生成圖像不予展示，還集成了一些用classifier-free guidance來規避風險概念的方法。
但在開源條件下，惡意用戶可以輕松繞過這些機制，網上甚至有大把的教程……
針對此，學界提出了“概念移除”，即通過微調來移除文生圖擴散模型中特定的風險概念，使其不再具備生成相應內容的能力。
這種方法的資源消耗遠低于從頭重新訓練的SD v2.1版本，也不能被輕易繞過。
而最新研究RECE，拿下概念移除SOTA效果，并且對無關概念破壞極小，論文已被頂會ECCV 2024接收。
整個過程基于高效的

原文鏈接：3秒讓AI變乖，生成風險圖片減少30%！復旦新研究拿下擴散模型概念移除新SOTA｜ECCV 2024

聯系作者

文章來源：量子位
作者微信：
作者簡介：