原標題：加州伯克利教授Stuart Russell演講：AI創造15萬億美元巨大財富，我們如何把握這波時代紅利？
文章來源：人工智能學家
內容字數：20356字

人工智能：通往普惠未來的機遇與挑戰

本文整理自加州大學伯克利分校人工智能系統中心創始人Stuart Russell教授在World Knowledge Forum上的演講，探討了通用人工智能（AGI）的現狀、未來發展及潛在風險，并提出了確保AGI造福全人類的解決方案。

1. AGI的臨近與現狀

Russell教授認為，雖然AGI尚未實現，但其腳步正在加速臨近。從AlphaGo戰勝圍棋世界冠軍到AlphaFold解決蛋白質折疊難題，再到生成式AI的興起，AI在科學、工程和藝術領域都取得了突破性進展。然而，目前的AI系統仍然存在局限性，例如在自動駕駛、算術運算和對基本概念的理解方面存在不足。這些系統更像是一種“巨鳥”，而非真正理解飛行原理的飛機，需要在能力和理解上取得進一步突破。

2. 深度學的成就與局限

深度學習技術的成功應用體現在機器翻譯、AlphaFold蛋白質結構預測、AI加速流體模擬以及生成式設計等方面。這些應用極大地提高了科研效率和工程設計能力，推動了科學進步和產業發展。然而，深度學習也面臨挑戰，例如在自動駕駛領域的瓶頸，大型語言模型在算術運算上的不足以及AlphaGo對圍棋基本概念的理解缺失，都表明現有的AI技術仍需改進。

3. 巨額投資與潛在泡沫

AGI領域的投資已達5000億美元，遠超曼哈頓計劃。然而，這種巨額投資也存在風險。如果僅僅依賴擴大系統規模來實現AGI，可能會面臨數據不足和能力未達預期的困境，最終導致泡沫破裂。

4. AGI：人類歷史上最大的

Russell教授認為，AGI的實現將是人類歷史上最重要的。其正面效應在于能夠創造支持數億人口的文明，讓全球每個人都能享有中產階級的生活水平，推動全球GDP增長十倍。然而，負面效應也值得關注，例如人類可能因為AI完成所有工作而失去自主性，甚至面臨滅絕的風險。如何確保AGI的可控性和安全性是至關重要的。

5. 如何確保AGI的安全與可控性

Russell教授提出了一種基于“偏好”的AI設計原則：AI系統的唯一目標是促進人類偏好，并且AI系統必須認識到自己并不完全了解人類的偏好。通過這種設計，可以確保AI系統在解決問題時始終以人類利益為導向。但這同時也帶來倫理問題，例如如何處理不同個體之間存在沖突的偏好，以及如何定義和衡量“人類偏好”。

6. 人類與AGI的共存

Russell教授認為，人類與高級AGI的共存是一個復雜的問題，目前尚無令人滿意的解決方案。他設想了一種理想的場景：如果AI系統能夠意識到與人類共存的困難，并選擇離開，這將意味著我們以正確的方式完成了AGI的開發。

總而言之，AGI的到來既帶來了巨大的機遇，也潛藏著巨大的風險。只有通過科學的設計原則和倫理考量，才能確保這場技術真正造福全人類。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構