OpenAI智能體曝本月誕生！比谷歌Anthropic慢，竟是擔心prompt攻擊

原標題：OpenAI智能體曝本月誕生！比谷歌Anthropic慢，竟是擔心prompt攻擊
文章來源：新智元
內容字數：3288字

OpenAI智能體發布延遲：安全問題成最大阻礙

OpenAI一直以來在人工智能領域占據領先地位，但其備受期待的計算機操作智能體卻遲遲未發布。本文將總結外媒報道中OpenAI智能體發布延遲的原因，以及與競爭對手Anthropic和Google的對比。

1. 智能體競爭激烈：2025年被預測為AI智能體競爭最為激烈的年份。Anthropic和Google已率先發布各自的智能體產品，分別為基于Claude 3.5 Sonnet的計算機操作智能體和Project Jarvis。這些智能體能夠自主操控電腦，完成諸如在線購物、編輯電子表格等任務，極大地提高了效率。
2. OpenAI的延遲發布：OpenAI原計劃在1月份發布代號為“Operator”的智能體工具，但目前看來至少還要三四周才能發布。其主要原因是擔憂“AI安全問題”，特別是“提示注入攻擊”。
3. 提示注入攻擊的威脅：提示注入攻擊是指通過惡意提示誘導大語言模型執行有害指令。對于計算機操作智能體而言，這種攻擊的風險更高，因為智能體能夠直接操控用戶設備，惡意網站或指令可能導致信息泄露或其他安全問題。攻擊過程一般包含四個步驟：接收用戶請求、選擇工具、截屏評估任務、繼續使用工具直至完成目標。而安全隱患主要集中在第三步，惡意截圖內容可能被利用。
4. OpenAI的安全顧慮：OpenAI員工表示，由于模型在瀏覽網絡或控制用戶計算機時，用戶難以控制模型接收的信息，因此提示注入攻擊的風險非常高。 這與Anthropic在發布其實驗性計算機操控功能時相對寬松的安全措施形成對比，引發了OpenAI內部的擔憂。
5. Anthropic和Google的策略：Anthropic雖然也承認提示注入的風險，但提供的解決方案有限，僅建議開發者采取隔離措施，例如使用虛擬機。Google的Project Jarvis則需要云端操作，暫時無法在終端設備上運行。
6. OpenAI的挑戰：OpenAI面臨的挑戰是如何在功能上超越競爭對手，同時提供更強大的安全保障，以應對提示注入攻擊等安全風險。 這需要在AI安全與產品發布速度之間取得平衡，這對于任何一家AI公司都是一個巨大的挑戰。

總而言之，OpenAI的智能體發布延遲并非技術問題，而是對AI安全性的謹慎考量。 如何在保證安全性的前提下，盡快推出功能強大的智能體產品，將是OpenAI未來需要解決的關鍵問題。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。