MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會人類！背刺人類盟友，佯攻擊敗99.8%玩家

AIGC動態(tài)歡迎閱讀

原標(biāo)題：MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會人類！背刺人類盟友，佯攻擊敗99.8%玩家
關(guān)鍵字：人類,報告,玩家,研究人員,人工智能
文章來源：新智元
內(nèi)容字?jǐn)?shù)：6373字

內(nèi)容摘要：

新智元報道編輯：桃子
【新智元導(dǎo)讀】AI系統(tǒng)越來越擅長、操作人類了。最近，來自MIT、ACU等機構(gòu)的研究人員通過各種實例研究發(fā)現(xiàn)， AI在各類游戲中，通過佯裝、歪曲偏好等方式人類，實現(xiàn)了目標(biāo)。AI教父Hinton的擔(dān)心，不是沒有道理。
他曾多次拉響警報，「如果不采取行動，人類可能會對更高級的智能AI失去控制」。
當(dāng)被問及，人工智能怎么能人類呢？
Hinton表示，「如果AI比我們聰明得多，它將非常善于操縱，因為它會從我們那里學(xué)會這種手段」。
這就提出了一個問題：AI系統(tǒng)能成功人類嗎？
「全世界的AI已經(jīng)學(xué)會了人類，甚至是那些被訓(xùn)練成，有益且誠實的系統(tǒng)」。
這是來自MIT、澳大利亞天主教大學(xué)（ACU），以及Center for AI Safety的最新研究發(fā)現(xiàn)。
研究人員于5月10日發(fā)表在《Patterns》雜志一篇綜述文章中，描述了AI系統(tǒng)性的風(fēng)險，并呼吁全世界一起解決這一問題。
論文地址：https://linkinghub.elsevier.com/retrieve/pii/S266638992400103X
如何說LLM就是了我們？
作者將定義為

原文鏈接：MIT等驚人發(fā)現(xiàn)：全世界AI已學(xué)會人類！背刺人類盟友，佯攻擊敗99.8%玩家

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進(jìn)化的影響，領(lǐng)航中國新智能時代。