MIT等驚人發現：全世界AI已學會人類！背刺人類盟友，佯攻擊敗99.8%玩家

AIGC動態歡迎閱讀

原標題：MIT等驚人發現：全世界AI已學會人類！背刺人類盟友，佯攻擊敗99.8%玩家
關鍵字：人類,報告,玩家,研究人員,人工智能
文章來源：新智元
內容字數：6373字

內容摘要：

新智元報道編輯：桃子
【新智元導讀】AI系統越來越擅長、操作人類了。最近，來自MIT、ACU等機構的研究人員通過各種實例研究發現， AI在各類游戲中，通過佯裝、歪曲偏好等方式人類，實現了目標。AI教父Hinton的擔心，不是沒有道理。
他曾多次拉響警報，「如果不采取行動，人類可能會對更高級的智能AI失去控制」。
當被問及，人工智能怎么能人類呢？
Hinton表示，「如果AI比我們聰明得多，它將非常善于操縱，因為它會從我們那里學會這種手段」。
這就提出了一個問題：AI系統能成功人類嗎？
「全世界的AI已經學會了人類，甚至是那些被訓練成，有益且誠實的系統」。
這是來自MIT、澳大利亞天主教大學（ACU），以及Center for AI Safety的最新研究發現。
研究人員于5月10日發表在《Patterns》雜志一篇綜述文章中，描述了AI系統性的風險，并呼吁全世界一起解決這一問題。
論文地址：https://linkinghub.elsevier.com/retrieve/pii/S266638992400103X
如何說LLM就是了我們？
作者將定義為

原文鏈接：MIT等驚人發現：全世界AI已學會人類！背刺人類盟友，佯攻擊敗99.8%玩家

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。