MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會(huì)人類！背刺人類盟友，佯攻擊敗99.8%玩家

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會(huì)人類！背刺人類盟友，佯攻擊敗99.8%玩家
關(guān)鍵字：人類,報(bào)告,玩家,研究人員,人工智能
文章來源：新智元
內(nèi)容字?jǐn)?shù)：6373字

內(nèi)容摘要：

新智元報(bào)道編輯：桃子
【新智元導(dǎo)讀】AI系統(tǒng)越來越擅長、操作人類了。最近，來自MIT、ACU等機(jī)構(gòu)的研究人員通過各種實(shí)例研究發(fā)現(xiàn)， AI在各類游戲中，通過佯裝、歪曲偏好等方式人類，實(shí)現(xiàn)了目標(biāo)。AI教父Hinton的擔(dān)心，不是沒有道理。
他曾多次拉響警報(bào)，「如果不采取行動(dòng)，人類可能會(huì)對更高級(jí)的智能AI失去控制」。
當(dāng)被問及，人工智能怎么能人類呢？
Hinton表示，「如果AI比我們聰明得多，它將非常善于操縱，因?yàn)樗鼤?huì)從我們那里學(xué)會(huì)這種手段」。
這就提出了一個(gè)問題：AI系統(tǒng)能成功人類嗎？
「全世界的AI已經(jīng)學(xué)會(huì)了人類，甚至是那些被訓(xùn)練成，有益且誠實(shí)的系統(tǒng)」。
這是來自MIT、澳大利亞天主教大學(xué)（ACU），以及Center for AI Safety的最新研究發(fā)現(xiàn)。
研究人員于5月10日發(fā)表在《Patterns》雜志一篇綜述文章中，描述了AI系統(tǒng)性的風(fēng)險(xiǎn)，并呼吁全世界一起解決這一問題。
論文地址：https://linkinghub.elsevier.com/retrieve/pii/S266638992400103X
如何說LLM就是了我們？
作者將定義為

原文鏈接：MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會(huì)人類！背刺人類盟友，佯攻擊敗99.8%玩家

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺(tái)，致力于推動(dòng)中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國新智能時(shí)代。