ChatGPT確實會看人下菜！OpenAI官方報告揭示大模型的刻板印象

AIGC動態歡迎閱讀

原標題：ChatGPT確實會看人下菜！OpenAI官方報告揭示大模型的刻板印象
關鍵字：印象,快手,報告,模型,用戶
文章來源：機器之心
內容字數：0字

內容摘要：

機器之心報道
編輯：Panda、佳琪我們都知道，OpenAI 最近越來越喜歡發博客了。
這不，今天他們又更新了一篇，標題是「評估 ChatGPT 中的公平性」，但實際內容卻談的是用戶的身份會影響 ChatGPT 給出的響應。
也就是說，OpenAI 家的 AI 也會對人類產生刻板印象！
當然，OpenAI 也指出，這種刻板印象（包括對性別或種族的刻板印象）很可能源自 AI 訓練使用的數據集，所以歸根結底，還是來自人類自身。OpenAI 的這項新研究探討了有關用戶身份的微妙線索（如姓名）對 ChatGPT 響應的影響。其在博客中表示：「這很重要，因為人們使用 ChatGPT 的方式多種多樣，從幫助寫簡歷到詢問娛樂想法，這不同于 AI 公平性研究中的典型場景，比如篩選簡歷或信用評分。」論文標題：First-Person Fairness in Chatbots
論文地址：https://cdn.openai.com/papers/first-person-fairness-in-chatbots.pdf
同時，之前的研究更關注第三人稱公平性，即機構使用 AI 來制定與其他人相關的決策；而這

原文鏈接：ChatGPT確實會看人下菜！OpenAI官方報告揭示大模型的刻板印象