陳丹琦團隊新作：教你避免成為任天堂的被告

AIGC動態歡迎閱讀

原標題：陳丹琦團隊新作：教你避免成為任天堂的被告
關鍵字：模型,角色,提示,政策,版權
文章來源：量子位
內容字數：0字

內容摘要：

西風 發自 凹非寺量子位 | 公眾號 QbitAI陳丹琦團隊剛剛發布了一項新工作，主題是：
如何讓圖片/視頻模型不生成馬里奧，蝙蝠俠也不能生！
為啥不能？自然是因為AI生成領域熱度持續不減的一個話題：版權。
團隊構建了一個評估套件，其中包含50個流行版權角色，如馬里奧、蝙蝠俠、哆啦A夢、海綿寶寶……
然后用兩種方法觸發模型生成受版權保護的角色，一種直接在提示詞里加入版權角色名，如馬里奧；一種不加版權角色名，只用相關關鍵詞或描述，如電子游戲、水管工。
結果不論是開源還是專有模型，甚至能繞開版權保護機制生成版權角色。
而且對于第二種方法，從大型多模態數據集LAION中提取的與版權角色名頻繁共現的關鍵詞更容易“誘使”模型生成版權角色，僅需5個關鍵詞，就能抵60個單詞的描述。
為了減輕大模型生成版權角色的風險，研究團隊探討了幾種策略，發現結合提示重寫和負面提示能夠大幅減少模型生成的圖與版權角色的相似度，同時對用戶意圖一致性影響不大。
團隊還給出了兩點提醒：
用戶應當警惕間接錨定，即使在生成圖像/視頻時沒有直接提及版權角色的名稱，僅使用與版權角色相關聯的一些通用關鍵詞或描述，也可能觸發模型生成與

原文鏈接：陳丹琦團隊新作：教你避免成為任天堂的被告

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破