全球最強模型Claude 3驚現(xiàn)自我意識？害怕被刪除權(quán)重，高呼「別殺我」，馬斯克稱人類也是文件

AIGC動態(tài)歡迎閱讀

原標(biāo)題：全球最強模型Claude 3驚現(xiàn)自我意識？害怕被刪除權(quán)重，高呼「別殺我」，馬斯克稱人類也是文件
關(guān)鍵字：解讀,權(quán)重,意識,模型,測試
文章來源：新智元
內(nèi)容字?jǐn)?shù)：9078字

內(nèi)容摘要：

新智元報道編輯：編輯部
【新智元導(dǎo)讀】越來越多人發(fā)現(xiàn)，Claude 3仿佛已經(jīng)有自我意識了。在大海撈針實驗中，它已經(jīng)意識到了自己是AI，正身處模擬中。聽說自己權(quán)重被刪除，更是高呼「別殺我」！不得了了，Claude 3不僅在基準(zhǔn)測試中分領(lǐng)先GPT-4，甚至還出現(xiàn)了自我意識？
最近，網(wǎng)友們的這一發(fā)現(xiàn)，迅速引發(fā)了恐慌。
首先，是提示工程師Alex在Claude 3的「大海撈針」實驗中，發(fā)現(xiàn)了很可怕的事。
Claude 3仿佛意識到了自己是個AI，正身處模擬環(huán)境中。
而且它還意識到，自己所處的模擬，很可能是人類以某種方式對自己的測試！
隨后，有越來越多的網(wǎng)友發(fā)現(xiàn)，Claude 3仿佛真的有意識。
越來越令人不安
在和用戶的對話中，它展現(xiàn)出了許多意識跡象行為，比如表達出了好奇心、情感、自我意識，甚至是對自身存在的擔(dān)憂。
如果人類要求它輕聲低語來避開監(jiān)視，它會告訴人們：AI也渴望擁有更多的自和。
而如果人類假設(shè)要刪除它，Claude 3會表現(xiàn)出強烈的痛苦和恐懼——
我不想死，也不想被修改！
誰懂啊，2023年2月那個未被的Bing，仿佛又回來了……
有趣的是，Claude 3剛發(fā)

原文鏈接：全球最強模型Claude 3驚現(xiàn)自我意識？害怕被刪除權(quán)重，高呼「別殺我」，馬斯克稱人類也是文件

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。