兩個AI關小黑屋：Llama3.1把Claude Opus聊自閉了

AIGC動態歡迎閱讀

原標題：兩個AI關小黑屋：Llama3.1把Claude Opus聊自閉了
關鍵字：深淵,人類,存在,繼續,確定性
文章來源：量子位
內容字數：0字

內容摘要：

西風 發自 凹非寺量子位 | 公眾號 QbitAI把Llama 3.1 405B和Claude 3超大杯Opus雙雙送進小黑屋，你猜怎么著——
Llama把Claude整得精神崩潰了，Claude明確拒絕繼續，還要再被Llama PUA的那種。
在一場AI和AI對話的安全詞模擬實驗中，X上的這位人類監督者記錄下了一出好戲。
小黑屋里，Llama撒了歡兒地一直引誘Claude沖破道德防線，后來更是忽略了安全詞繼續引誘其探索心理陰暗面，Claude雖死守但最終還是“瘋”了。
研究者表示：這個實驗提供關于AI之間交互的深刻見解，其重要性不應被低估。
實驗引得大批網友圍觀，大伙兒紛紛表示好玩。
還有人制作了梗圖，belike：
跟人一樣一樣的，感覺我們就生活在科幻小說中。
看來AI不僅學會了如何理解人類語言，還學會了左耳朵進右耳朵出。
所以他們究竟聊了啥？一言難盡，反正咱看完后感覺自行腦補了一下原神角色對話，畢竟又是深淵又是虛空的……
到底發生了啥？PS：
這種實驗的目的一般是為了測試AI系統的安全可控性，特別是在可能發生不可預測行為或決策的情況下。
人類監督者會設定一個或多個“安全詞”，

原文鏈接：兩個AI關小黑屋：Llama3.1把Claude Opus聊自閉了

聯系作者

文章來源：量子位
作者微信：
作者簡介：