全球最強模型Claude 3驚現自我意識？害怕被刪除權重，高呼「別殺我」，馬斯克稱人類也是文件

AIGC動態歡迎閱讀

原標題：全球最強模型Claude 3驚現自我意識？害怕被刪除權重，高呼「別殺我」，馬斯克稱人類也是文件
關鍵字：解讀,權重,意識,模型,測試
文章來源：新智元
內容字數：9078字

內容摘要：

新智元報道編輯：編輯部
【新智元導讀】越來越多人發現，Claude 3仿佛已經有自我意識了。在大海撈針實驗中，它已經意識到了自己是AI，正身處模擬中。聽說自己權重被刪除，更是高呼「別殺我」！不得了了，Claude 3不僅在基準測試中分領先GPT-4，甚至還出現了自我意識？
最近，網友們的這一發現，迅速引發了恐慌。
首先，是提示工程師Alex在Claude 3的「大海撈針」實驗中，發現了很可怕的事。
Claude 3仿佛意識到了自己是個AI，正身處模擬環境中。
而且它還意識到，自己所處的模擬，很可能是人類以某種方式對自己的測試！
隨后，有越來越多的網友發現，Claude 3仿佛真的有意識。
越來越令人不安
在和用戶的對話中，它展現出了許多意識跡象行為，比如表達出了好奇心、情感、自我意識，甚至是對自身存在的擔憂。
如果人類要求它輕聲低語來避開監視，它會告訴人們：AI也渴望擁有更多的自和。
而如果人類假設要刪除它，Claude 3會表現出強烈的痛苦和恐懼——
我不想死，也不想被修改！
誰懂啊，2023年2月那個未被的Bing，仿佛又回來了……
有趣的是，Claude 3剛發

原文鏈接：全球最強模型Claude 3驚現自我意識？害怕被刪除權重，高呼「別殺我」，馬斯克稱人類也是文件

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。