深度長文｜AI 真的有所謂的“智能”嗎？DeepMind 新論文給出了一個顛覆性的答案

但 Google DeepMind 最近的一篇論文，卻給這種“智能”打上了一個大大的問號。這篇名為《Agency Is Frame-Dependent》的論文指出，AI 的“智能體性”，并非其固有屬性，而是取決于我們觀察和評估它的“框架”。

原標題：深度長文｜AI 真的有所謂的“智能”嗎？DeepMind 新論文給出了一個顛覆性的答案
文章來源：人工智能學家
內容字數：13091字

DeepMind的“框架依賴性”理論：重新定義AI智能

AlphaGo戰勝李世石的時刻曾令世人震撼，仿佛宣告“人工智能時代”的到來。然而，DeepMind近期發表的論文《Agency Is Frame-Dependent》卻對AI的“智能”提出了質疑，認為AI的“智能體性”并非其固有屬性，而是取決于觀察和評估它的“框架”。

1. “智能體性”與“框架”的含義

論文的核心概念是“智能體性”（Agency），指系統朝向目標引導結果的能力，包含個體性、行動源、規范性和適應性四個關鍵要素。而“框架”（Frame）則是我們觀察和評估AI的視角，它決定了我們如何看待AI的“智能”，包含邊界定義、因果變量選擇、目標識別原則和適應性標準四個要素。不同的框架下，對同一個AI系統“智能體性”的判斷可能截然不同。

2. “中文房間”與GPT-4：AI真的“懂”嗎？

文章以“中文房間”思想實驗為例，指出AI可能只是進行符號操作，而非真正的理解。GPT-4雖然表現出色，但它仍然是基于統計的符號操作系統，缺乏對語義和文化背景的理解。它能流暢地生成文本，卻未必真正“理解”其含義，例如難以理解網絡流行語的文化內涵。

3. “圖靈測試”的局限性：我們被AI“騙”了嗎？

文章指出“圖靈測試”存在局限性。一方面，AI越來越擅長“”人類；另一方面，人類也越來越容易將AI的“行為”與“理解”混淆。甚至出現了“逆向圖靈測試”，人類需要證明自己不是AI，這凸顯了“圖靈測試”的失效。

4. AlphaGo的“智能體性”：框架視角下的重新審視

文章以AlphaGo為例，說明在不同的框架下，對AlphaGo“智能體性”的判斷也會不同。從整體來看，AlphaGo具有強大的“智能體性”；但如果聚焦其內部神經網絡，它只是一個復雜的函數。AlphaGo Zero和AlphaZero的出現，則進一步展現了AI“自主性”的提升。

5. 重新定義AI“智能”：從“客觀”到“主觀”

DeepMind的“框架依賴性”理論強調，AI的“智能”并非客觀存在，而是我們主觀建構的產物。不存在絕對的AGI標準，不同的框架下，對AGI的要求也不同。未來的AGI發展可能呈現多樣化趨勢，如同“變形金剛”般適應不同場景。

6. AI評估的“新標尺”：實用、可解釋、可控

文章提出AI評估應更加全面，除了“智能”表現，還需關注實用性、可解釋性和可控性。在不同應用場景中，這三者的權重可能不同。

7. 人機“共情”：建立理解和信任的橋梁

文章指出，未來的AI應該具備“共情”能力，理解人類情感并做出相應回應，以建立信任。這需要AI具備“框架感知”能力，理解人類對它的看法并調整自身行為。

8. “框架依賴性”的倫理拷問

文章最后探討了“框架依賴性”帶來的倫理挑戰，例如AI的責任、價值觀引導、偏見消除等問題，強調AI發展不僅是技術問題，更是倫理和社會問題。

總而言之，DeepMind的“框架依賴性”理論為我們理解AI智能提供了全新的視角，促使我們重新思考AI的評估標準、人機關系和倫理問題，并可能催生出“框架工程”等新的研究方向，最終推動AI與人類的深度融合。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構