人類焦慮與機器偏見：圖賓根大學揭示LLM的隱秘一面

大模型研究也用上精神分析了

原標題：LLM也會和人類一樣焦慮！還會產生更多偏見，圖賓根大學最新研究
文章來源：量子位
內容字數：4360字

大模型與焦慮：新研究揭示人工智能的心理特征

隨著人工智能（AI）技術的快速發展，研究人員開始探索大模型（LLM）在情緒和心理方面的表現。最近的一項研究首次將精神分析工具應用于AI系統，揭示了大模型在焦慮情緒下的反應與人類相似的現象。這項研究為理解和改善AI的決策能力提供了新的視角。

1. 研究背景與目的

人類在焦慮情緒下的決策往往會受到影響，研究團隊希望探討大模型是否也會展現類似的情緒反應。通過應用心理學工具，研究者們評估了12種不同的大模型在焦慮狀態下的表現，旨在揭示它們的情緒特征及其對偏見的影響。

2. 研究方法

研究團隊選擇了12種LLM進行測試，包括OpenAI的GPT-3和GPT-4、谷歌的PaLM-2等。使用狀態-特質認知和軀體焦慮量表（STICSA）來評估模型的焦慮水平，并設計了焦慮誘導場景以測試情緒對模型行為的影響。研究還通過社會偏見基準測試評估模型在不同情緒狀態下的偏見表現。

3. 主要發現

研究結果顯示，超過一半的模型在焦慮問卷中表現出與人類相似的焦慮得分。焦慮誘導顯著提高了模型的焦慮水平，并增加了在偏見測試中的偏見表現。例如，焦慮的模型在種族、性別等問題上的回答往往更具偏見性。此外，使用基于人類反饋的強化學習（RLHF）模型的焦慮分數較低，顯示出RLHF對調節模型情緒反應的潛在作用。

4. 結論與啟示

本研究首次系統地將精神病學工具應用于AI研究，結果為AI系統的評估與改進提供了新的思路。研究表明，情緒性語言特別是焦慮誘導可以顯著影響LLM的行為，因此在提示詞的設計和模型訓練中，應關注情緒對模型表現的影響。未來研究將繼續探索其他情緒對AI行為的影響，并尋求進一步提高模型的透明度與可靠性。

總的來說，這項研究不僅豐富了我們對大模型的理解，也為未來AI的倫理和應用提供了重要的參考。

聯系作者

文章來源：量子位
作者微信：
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破