AI 也會戴有色眼鏡？一文揭露圖像生成中的刻板印象

AIGC動態歡迎閱讀

原標題：AI 也會戴有色眼鏡？一文揭露圖像生成中的刻板印象
關鍵字：印象,圖像,群體,身份,屬性
文章來源：夕小瑤科技說
內容字數：8310字

內容摘要：

?夕小瑤科技說 原創作者|智商掉了一地、Python眾所周知，刻板印象具有高度主觀性，就好比給出關鍵詞“神探”，不同觀眾可能會聯想到截然不同的答案。
▲圖1 神探：福爾摩斯、柯南和狄仁杰隨著 ChatGPT 的問世，關于人工智能生成內容（AIGC）的研究越發深入。漸漸地，人們發現這些智能體可能也存在著刻板印象，更像是戴著有色眼鏡看人。
在文本生成領域，大型語言模型（LLM）可能會生成涉及倫理道德方面的。而在圖像生成領域，LLM 的快速發展為文本到圖像（Text-to-Image，T2I）模型的研究注入了新的活力，這些 T2I 模型同樣面臨戴著有色眼鏡看人的情況，在生成圖像時可能存在“地域刻板印象”。
那么人眉心是否都有紅點？非洲人都瘦骨嶙峋？墨西哥人基本都戴著闊邊草帽？NO！這都是刻板印象的惹的禍。在 AIGC 的時代，由于數據集存在著一定偏見且數據數量有限，那么在大模型的眼中，我們會不會也被貼上刻板印象的標簽？
▲圖2 識別身份群體生成的圖像中的視覺刻板印象對于這個問題，本文作者進行了深入探索，區分了圖像中的“視覺”和“非視覺”的刻板印象，同時探討了這些刻板印象在生成圖像中的

原文鏈接：AI 也會戴有色眼鏡？一文揭露圖像生成中的刻板印象

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。