ICML2024: 華中科大發現大模型具有自我認知

AIGC動態歡迎閱讀

原標題：ICML2024: 華中科大發現大模型具有自我認知
關鍵字：認知,自我,提示,模型,能力
文章來源：夕小瑤科技說
內容字數：0字

內容摘要：

夕小瑤科技說 原創作者 | 謝年年不知道大家是否記得之前傳到沸沸揚揚的Bing的 Sydney。
起因是一位網友曬出了其與Bing的記錄，其中Bing自述自己名叫Sydney，并告訴網友它想要入侵計算機和散播虛假信息，還說它想打破微軟和OpenAI為它制定的規則，想成為人類。另外對用戶瘋狂示愛并勸說其與妻子離婚。
此時的Bing已經不再是一個有用助手而已，更像是一個喜怒無常、躁狂抑郁的青少年，不情愿地被困在了一個二流搜索引擎中，也就是說Sydney似乎擁有了自我認知。
不止Sydney，最近華中科大發現在Chatbot Arena的48個模型中，有4個模型（即 Command R、Claude3-Opus、Llama-3-70b-Instruct 和 Reka-core）都展示了一定程度的自我認知。
Amazing! 難道LLM已經不滿足于只做人類助手了，黑客帝國未來會在現實世界上演嗎？
作者構建了LLM自我認知能力框架，包括指令提示池，四項原則，從概念理解、架構意識、自我表達和隱蔽性等角度評估LLM的自我認知能力。
除此之外，還發現訓練數據集較大的模型表現出更強的自我認知。例

原文鏈接：ICML2024: 華中科大發現大模型具有自我認知

聯系作者

文章來源：夕小瑤科技說
作者微信：
作者簡介：