深度｜諾獎得主Hinton：人類當下局面是，舊石器時代的大腦、中世紀的制度與類神的技術

原標題：深度｜諾獎得主Hinton：人類當下局面是，舊石器時代的大腦、中世紀的制度與類神的技術
文章來源：人工智能學家
內容字數：49949字

人工智能的未來：機遇與挑戰

本文總結了瑞典皇家工程科學院（IVA）舉辦的Geoffrey Hinton教授研討會的核心觀點，探討了人工智能的快速發展及其帶來的機遇和挑戰。研討會匯集了來自未來學、哲學、計算機科學、人工智能和人機交互等領域的專家，對人工智能的理解、風險以及未來發展方向進行了深入的探討。

1. 人工智能的本質與理解

Hinton教授認為，智能的本質是學習，而非推理。當前最有效的語言模型，正是基于神經網絡學習的模型，它們模擬了人類理解句子的方式，而非基于傳統的符號AI理論。他駁斥了將大型語言模型稱為“隨機鸚鵡”的觀點，認為它們并非簡單的文本拼湊，而是真正理解語言的系統。他還指出，人類記憶的運作方式也類似于模型的“編造”現象，這并非模型缺陷，而是其學習機制的體現。

2. 人工智能的短期和長期風險

研討會討論了人工智能的短期和長期風險。短期風險包括網絡攻擊、大量失業、疫情以及虛假視頻的泛濫。而長期風險則在于創造出比人類更智能的AI，并可能導致人類失去控制。雖然各國在短期風險上難以合作，但在應對長期生存威脅方面，則可能存在合作的可能性。

3. 人工智能的監管與國際合作

與會專家普遍認為，需要加強對人工智能的監管，并促進國際合作以應對其帶來的風險。然而，由于各國利益和信任的差異，達成有效合作仍然面臨挑戰。尤其是在軍事用途的人工智能方面，國際合作更是困難重重。

4. 應對人工智能風險的策略

研討會提出了幾種應對人工智能風險的策略，包括：1. 提升信息來源的可追溯性，以應對虛假信息；2. 加強跨學科合作，將人文學科、倫理學等領域引入人工智能研究；3. 開發更安全、更符合倫理的AI系統，并強調數據選擇和策劃的重要性；4. 探索新的設計方法，將倫理考慮融入AI系統的設計過程。

5. 人工智能的未來發展方向

研討會探討了人工智能未來的發展方向，包括：1. 數字智能的更高效性；2. 具身化人工智能的興起；3. 人工智能與人類的協作；4. 人工智能在科學研究中的應用。專家們認為，人工智能將持續發展，并深刻地改變人類社會，但其發展路徑和最終結果仍然充滿不確定性。

6. 人工智能與人類的共存

研討會最后討論了人工智能與人類共存的問題。專家們認為，人類需要積極探索與人工智能和諧共處的方式，并通過教育和引導，讓下一代更好地理解和應對人工智能帶來的挑戰與機遇。同時，也需要反思人類自身，更好地理解人類智能的本質，以及如何與人工智能系統進行有效的互動與合作。

7. 結語

研討會總結指出，人工智能的快速發展帶來了巨大的機遇和挑戰，需要全社會共同努力，以負責任的態度推動人工智能的健康發展，確保其造福人類。未來的發展充滿了不確定性，需要持續的探索和研究，才能找到應對挑戰，實現人機和諧共生的最佳方案。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構