AIGC動態(tài)歡迎閱讀

原標(biāo)題：連ChatGPT都懂“阿諛奉承”了！OpenAI最強競對：都是“人類偏好”犯的錯

關(guān)鍵字：模型,人類,用戶,研究人員,行為

文章來源：大數(shù)據(jù)文摘

內(nèi)容字數(shù)：4243字

內(nèi)容摘要：大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自學(xué)術(shù)頭條你是否想過，ChatGPT 生成的答案會受到用戶個人偏好的影響，回復(fù)一些足夠“阿諛奉承（sycophancy）”的話，而非中立或真實的信息？實際上，這種現(xiàn)象存在于包括 ChatGPT 在內(nèi)的大多數(shù) AI 模型之中，而罪魁禍?zhǔn)拙箍赡苁恰盎谌祟惙答伒膹娀瘜W(xué)習(xí)（RLHF）”。近日，OpenAI 在美國硅谷的最強競爭對手 Anthropic 在研究經(jīng)過 RLHF 訓(xùn)練的模型時…

原文鏈接：點此閱讀原文：連ChatGPT都懂“阿諛奉承”了！OpenAI最強競對：都是“人類偏好”犯的錯

聯(lián)系作者

文章來源：大數(shù)據(jù)文摘

作者微信：BigDataDigest

作者簡介：普及數(shù)據(jù)思維，傳播數(shù)據(jù)文化