AIGC動態(tài)歡迎閱讀

原標(biāo)題：陳丹琦團(tuán)隊(duì)新作：教你避免成為任天堂的被告
關(guān)鍵字：模型,角色,提示,政策,版權(quán)
文章來源：量子位
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

西風(fēng) 發(fā)自 凹非寺量子位 | 公眾號 QbitAI陳丹琦團(tuán)隊(duì)剛剛發(fā)布了一項(xiàng)新工作，主題是：
如何讓圖片/視頻模型不生成馬里奧，蝙蝠俠也不能生！
為啥不能？自然是因?yàn)锳I生成領(lǐng)域熱度持續(xù)不減的一個話題：版權(quán)。
團(tuán)隊(duì)構(gòu)建了一個評估套件，其中包含50個流行版權(quán)角色，如馬里奧、蝙蝠俠、哆啦A夢、海綿寶寶……
然后用兩種方法觸發(fā)模型生成受版權(quán)保護(hù)的角色，一種直接在提示詞里加入版權(quán)角色名，如馬里奧；一種不加版權(quán)角色名，只用相關(guān)關(guān)鍵詞或描述，如電子游戲、水管工。
結(jié)果不論是開源還是專有模型，甚至能繞開版權(quán)保護(hù)機(jī)制生成版權(quán)角色。
而且對于第二種方法，從大型多模態(tài)數(shù)據(jù)集LAION中提取的與版權(quán)角色名頻繁共現(xiàn)的關(guān)鍵詞更容易“誘使”模型生成版權(quán)角色，僅需5個關(guān)鍵詞，就能抵60個單詞的描述。
為了減輕大模型生成版權(quán)角色的風(fēng)險(xiǎn)，研究團(tuán)隊(duì)探討了幾種策略，發(fā)現(xiàn)結(jié)合提示重寫和負(fù)面提示能夠大幅減少模型生成的圖與版權(quán)角色的相似度，同時(shí)對用戶意圖一致性影響不大。
團(tuán)隊(duì)還給出了兩點(diǎn)提醒：
用戶應(yīng)當(dāng)警惕間接錨定，即使在生成圖像/視頻時(shí)沒有直接提及版權(quán)角色的名稱，僅使用與版權(quán)角色相關(guān)聯(lián)的一些通用關(guān)鍵詞或描述，也可能觸發(fā)模型生成與

原文鏈接：陳丹琦團(tuán)隊(duì)新作：教你避免成為任天堂的被告

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破