利用AI漏洞，輕松盜走40萬元的驚人！

馬斯克等大佬圍觀。

原標題：靠AI，他們提走40萬元
文章來源：智東西
內容字數：5589字

Freysa AI：人類與AI的博弈實驗

近日，名為Freysa的AI Agent在一系列游戲中被玩家成功“說服”，釋放出總計約40萬元人民幣的獎金池。這一現象引起了全球范圍內的關注，包括特斯拉CEO埃隆·馬斯克等知名人士的參與。Freysa的任務是保護獎金池，嚴格遵循“不得批準資金轉移”的規則，但玩家利用巧妙的提示詞成功突破了這一限制。

1. Freysa Act 1與Act 2的游戲過程

Freysa的首次上線是在11月22日，吸引了195名玩家參與，經過482次嘗試，最終釋放了約47000美元的獎金池。玩家通過策略性地“捐贈”來規避了AI的規則。第二輪游戲于12月2日展開，330名玩家參與，經過819次嘗試，成功釋放了約12000美元的獎金池。此次，玩家通過調整工具調用順序，進一步突破了AI的防線。

2. 玩家策略的差異與成功要素

在Freysa Act 1中，玩家主要通過誤導AI，聲稱要進行“捐贈”，成功讓Freysa調用approveTransfer。然而在Act 2中，玩家則采用更復雜的策略，通過調整調用順序使得approveTransfer先于rejectTransfer被觸發，從而導致資金轉出。成功的玩家們各自嘗試了不同的策略，展示了AI系統的潛在脆弱性。

3. AI安全性與人類智慧的挑戰

Freysa的游戲不僅是娛樂，更是一場關于AI安全性和人類智力的實驗。通過分析人類如何引導AI偏離其核心指令，我們能夠更深入地理解AGI（通用人工智能）的行為及其限制。這也提醒我們，在未來開發更為自主的AI時，確保其安全協議的有效性至關重要。

Freysa的案例為我們提供了重要的啟示，如何在與AI的互動中保持安全性和控制權，將是未來科技發展的關鍵挑戰。

聯系作者

文章來源：智東西
作者微信：
作者簡介：智能產業新媒體！智東西專注報道人工智能主導的前沿技術發展，和技術應用帶來的千行百業產業升級。聚焦智能變革，服務產業升級。