深度長(zhǎng)文｜AI 真的有所謂的“智能”嗎？DeepMind 新論文給出了一個(gè)顛覆性的答案

但 Google DeepMind 最近的一篇論文，卻給這種“智能”打上了一個(gè)大大的問(wèn)號(hào)。這篇名為《Agency Is Frame-Dependent》的論文指出，AI 的“智能體性”，并非其固有屬性，而是取決于我們觀察和評(píng)估它的“框架”。

原標(biāo)題：深度長(zhǎng)文｜AI 真的有所謂的“智能”嗎？DeepMind 新論文給出了一個(gè)顛覆性的答案
文章來(lái)源：人工智能學(xué)家
內(nèi)容字?jǐn)?shù)：13091字

DeepMind的“框架依賴性”理論：重新定義AI智能

AlphaGo戰(zhàn)勝李世石的時(shí)刻曾令世人震撼，仿佛宣告“人工智能時(shí)代”的到來(lái)。然而，DeepMind近期發(fā)表的論文《Agency Is Frame-Dependent》卻對(duì)AI的“智能”提出了質(zhì)疑，認(rèn)為AI的“智能體性”并非其固有屬性，而是取決于觀察和評(píng)估它的“框架”。

1. “智能體性”與“框架”的含義

論文的核心概念是“智能體性”（Agency），指系統(tǒng)朝向目標(biāo)引導(dǎo)結(jié)果的能力，包含個(gè)體性、行動(dòng)源、規(guī)范性和適應(yīng)性四個(gè)關(guān)鍵要素。而“框架”（Frame）則是我們觀察和評(píng)估AI的視角，它決定了我們?nèi)绾慰创鼳I的“智能”，包含邊界定義、因果變量選擇、目標(biāo)識(shí)別原則和適應(yīng)性標(biāo)準(zhǔn)四個(gè)要素。不同的框架下，對(duì)同一個(gè)AI系統(tǒng)“智能體性”的判斷可能截然不同。

2. “中文房間”與GPT-4：AI真的“懂”嗎？

文章以“中文房間”思想實(shí)驗(yàn)為例，指出AI可能只是進(jìn)行符號(hào)操作，而非真正的理解。GPT-4雖然表現(xiàn)出色，但它仍然是基于統(tǒng)計(jì)的符號(hào)操作系統(tǒng)，缺乏對(duì)語(yǔ)義和文化背景的理解。它能流暢地生成文本，卻未必真正“理解”其含義，例如難以理解網(wǎng)絡(luò)流行語(yǔ)的文化內(nèi)涵。

3. “圖靈測(cè)試”的局限性：我們被AI“騙”了嗎？

文章指出“圖靈測(cè)試”存在局限性。一方面，AI越來(lái)越擅長(zhǎng)“”人類；另一方面，人類也越來(lái)越容易將AI的“行為”與“理解”混淆。甚至出現(xiàn)了“逆向圖靈測(cè)試”，人類需要證明自己不是AI，這凸顯了“圖靈測(cè)試”的失效。

4. AlphaGo的“智能體性”：框架視角下的重新審視

文章以AlphaGo為例，說(shuō)明在不同的框架下，對(duì)AlphaGo“智能體性”的判斷也會(huì)不同。從整體來(lái)看，AlphaGo具有強(qiáng)大的“智能體性”；但如果聚焦其內(nèi)部神經(jīng)網(wǎng)絡(luò)，它只是一個(gè)復(fù)雜的函數(shù)。AlphaGo Zero和AlphaZero的出現(xiàn)，則進(jìn)一步展現(xiàn)了AI“自主性”的提升。

5. 重新定義AI“智能”：從“客觀”到“主觀”

DeepMind的“框架依賴性”理論強(qiáng)調(diào)，AI的“智能”并非客觀存在，而是我們主觀建構(gòu)的產(chǎn)物。不存在絕對(duì)的AGI標(biāo)準(zhǔn)，不同的框架下，對(duì)AGI的要求也不同。未來(lái)的AGI發(fā)展可能呈現(xiàn)多樣化趨勢(shì)，如同“變形金剛”般適應(yīng)不同場(chǎng)景。

6. AI評(píng)估的“新標(biāo)尺”：實(shí)用、可解釋、可控

文章提出AI評(píng)估應(yīng)更加全面，除了“智能”表現(xiàn)，還需關(guān)注實(shí)用性、可解釋性和可控性。在不同應(yīng)用場(chǎng)景中，這三者的權(quán)重可能不同。

7. 人機(jī)“共情”：建立理解和信任的橋梁

文章指出，未來(lái)的AI應(yīng)該具備“共情”能力，理解人類情感并做出相應(yīng)回應(yīng)，以建立信任。這需要AI具備“框架感知”能力，理解人類對(duì)它的看法并調(diào)整自身行為。

8. “框架依賴性”的倫理拷問(wèn)

文章最后探討了“框架依賴性”帶來(lái)的倫理挑戰(zhàn)，例如AI的責(zé)任、價(jià)值觀引導(dǎo)、偏見(jiàn)消除等問(wèn)題，強(qiáng)調(diào)AI發(fā)展不僅是技術(shù)問(wèn)題，更是倫理和社會(huì)問(wèn)題。

總而言之，DeepMind的“框架依賴性”理論為我們理解AI智能提供了全新的視角，促使我們重新思考AI的評(píng)估標(biāo)準(zhǔn)、人機(jī)關(guān)系和倫理問(wèn)題，并可能催生出“框架工程”等新的研究方向，最終推動(dòng)AI與人類的深度融合。

聯(lián)系作者

文章來(lái)源：人工智能學(xué)家
作者微信：
作者簡(jiǎn)介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機(jī)構(gòu)