微軟Copilot生成暴力圖且拒不更改，內(nèi)部工程師絕望舉報至！

AIGC動態(tài)歡迎閱讀

原標題：微軟Copilot生成暴力圖且拒不更改，內(nèi)部工程師絕望舉報至！
關(guān)鍵字：政策,報告,微軟,圖像,商標侵權(quán)
文章來源：AI前線
內(nèi)容字數(shù)：7883字

內(nèi)容摘要：

不久前，Gemini 因為圖像生成問題而關(guān)閉了文生圖功能，現(xiàn)在微軟也出現(xiàn)了“同樣”的問題。
在微軟供職六年的微軟 AI 工程主管 Shane Jones 一直利用空閑時間測試自家 AI 圖像生成器，測試結(jié)果令他感到不安。他警告稱，微軟的 Copilot Designer 產(chǎn)品會生成與暴力內(nèi)容，但公司方面并未就此采取適當行動。本周三，Jones 決定將此事上報，向美國聯(lián)邦貿(mào)易委員會（FTC）主席 Lina Khan 及微軟董事會發(fā)出函件。這之前，當他公開披露這些問題時，卻遭到了微軟法律部門的壓力要求刪除公開發(fā)言。
編輯|李忠良、核子可樂看到了“不該看的”Jones 研究的是 Copilot Designer，這是由微軟公司于 2023 年 3 月推出的 AI 圖像生成器，由 OpenAI 提供技術(shù)支持。用戶可以向 Copilot Designer 輸入文本提示并生成圖片。過去 Jones 一直在積極測試產(chǎn)品漏洞，通過實際操作，他發(fā)現(xiàn)該工具生成的圖像常常與微軟宣稱的負責任 AI 原則相違背。
去年 12 月，Shane Jones 對著電腦屏幕上彈出的圖像久久無法平靜。因為他看到了“

原文鏈接：微軟Copilot生成暴力圖且拒不更改，內(nèi)部工程師絕望舉報至！

聯(lián)系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發(fā)者和科學家，提供大模型最新資訊、AI技術(shù)分享干貨、一線業(yè)界實踐案例，助你全面擁抱AIGC。