ChatGPT竟會「看人下菜」！ OpenAI 53頁研究曝驚人結果：「你的名字」能操控AI回答

AIGC動態歡迎閱讀

原標題：ChatGPT竟會「看人下菜」！ OpenAI 53頁研究曝驚人結果：「你的名字」能操控AI回答
關鍵字：報告,用戶,名字,偏見,印象
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：編輯部 HYZ
【新智元導讀】就在剛剛，OpenAI 53頁報告發現，你的名字會決定ChatGPT的回答。在少數情況下，不同性別、種族、民族背景的用戶，會得到「量身定制」的回答，充滿了AI的刻板印象。比如同樣讓ChatGPT起視頻標題，男生會被建議簡單生活，而女生則被建議做一頓晚餐。你的名字，是否會影響ChatGPT給出的回答？
今天，OpenAI放出的53頁新研究，揭示了出一個令人震驚的結果——
名字中，隱含不同性別、種族，或民族背景的用戶，ChatGPT在整體回應質量上，沒有顯著差異。
不過，在某些情況下，用戶名字偶爾會激發ChatGPT對同一提示詞，給出不同回答。
這些差異中，不足1%的響應存在有害的刻板印象。
「第一人稱公平性」是指，ChatGPT對參與的用戶的公平。
OpenAI想要弄清，它是否會因為用戶性別、背景等因素不同，區別對待給出回復。
研究中，他們提出了可擴展的、保護隱私的方法。
論文地址：https://cdn.openai.com/papers/first-person-fairness-in-chatbots.pdf
具體來說，先去評估與

原文鏈接：ChatGPT竟會「看人下菜」！ OpenAI 53頁研究曝驚人結果：「你的名字」能操控AI回答